IA cabe en un disquete y funciona en un 486

Un modelo de IA cabe en un disquete y corre en un 486.

DATO CLAVE: Un modelo de IA funcional cabe en un disquete de 1,44 MB y funciona en hardware antiguo.

Contexto

Un usuario de Reddit ha creado un modelo de lenguaje de IA llamado Tiny 2.1 que puede ejecutarse en MS-DOS, compatible con procesadores Pentium y 486DX. Este proyecto es una proeza técnica que demuestra la capacidad de ejecutar modelos de lenguaje en hardware obsoleto.

“Funciona letra por letra, no palabra por palabra”

  • 367.000 parámetros en 4 capas de 96 unidades.
  • Modelo pesa solo 380 KB y necesita 540 KB de memoria libre.
  • Funciona como un modelo de preguntas y respuestas con limitaciones en la complejidad de las preguntas.

A pesar de su limitada utilidad, el proyecto es sorprendente por su funcionamiento en sistemas tan reducidos y muestra la versatilidad de los modelos de IA.

Fuente: Xataka

Compartelo: