Créditos de las imagenes: Hitesh Choudhary.
Un mecanismo de la física revela a priori cuántos ejemplos de aprendizaje profundo se requieren para lograr la precisión de prueba deseada. Sorprendentemente, indica que aprender cada ejemplo una vez es casi equivalente a aprender ejemplos repetidamente.
La investigación y las aplicaciones actuales en el campo de la inteligencia artificial (IA) incluyen varios desafíos clave.
Estos desafíos incluyen:
(a) estimación a priori del tamaño del conjunto de datos requerido para lograr la precisión de prueba deseada. Por ejemplo, ¿cuántos dígitos escritos a mano debe aprender una máquina antes de poder predecir uno nuevo con una tasa de éxito del 99%?
Del mismo modo, ¿cuántos tipos específicos de circunstancias debe aprender un vehículo autónomo antes de que su reacción no conduzca a un accidente?
(b) El logro de una toma de decisiones confiable con un número limitado de ejemplos, donde cada ejemplo puede ser entrenado solo una vez, es decir, observado solo por un período corto.
Este tipo de realización de la toma rápida de decisiones es representativo de muchos aspectos de la actividad humana, el control robótico y la optimización de la red.
En un artículo publicado en la revista Scientific Reports, los investigadores muestran cómo estos dos desafíos se resuelven adoptando un concepto físico que se introdujo hace un siglo para describir la formación de un imán durante un proceso de enfriamiento a granel de hierro.
Utilizando un procedimiento de optimización cuidadoso y simulaciones exhaustivas, un grupo de científicos de Israel ha demostrado la utilidad del concepto físico de de la ley de potencias al aprendizaje profundo.
Este concepto central en física, que surge de diversos fenómenos, incluidos el momento y la magnitud de los terremotos, la topología de Internet y las redes sociales, las fluctuaciones del precio de las acciones, las frecuencias de las palabras en lingüística y las amplitudes de señal en la actividad cerebral, también se ha encontrado que es aplicable en el campo en constante crecimiento de la IA, y especialmente el aprendizaje profundo.
«Los errores de prueba con el aprendizaje en línea, donde cada ejemplo se entrena solo una vez, concuerdan estrechamente con los algoritmos de última generación que consisten en un gran número, donde cada ejemplo se entrena muchas veces.
Este resultado tiene un importante implicación en la toma de decisiones rápidas como el control robótico», dijo el profesor Ido Kanter, quien dirigió la investigación.
«El escalado de la ley de potencia, que gobierna diferentes reglas dinámicas y arquitecturas de red, permite la clasificación y creación de jerarquías entre los diferentes problemas de clasificación o decisión examinados», agregó.
«Uno de los ingredientes importantes del algoritmo avanzado de aprendizaje profundo es el nuevo puente reciente entre la neurociencia experimental y los algoritmos avanzados de aprendizaje de inteligencia artificial», dijo la estudiante de doctorado Shira Sardi, coautora del estudio.
Nuestro nuevo tipo de experimentos en cultivos neuronales indican que un aumento en la frecuencia de entrenamiento nos permite acelerar significativamente el proceso de adaptación neuronal.
«Este mecanismo acelerado inspirado en el cerebro permite construir algoritmos avanzados de aprendizaje profundo que superan a los existentes», dijo el estudiante de doctorado Yuval Meir, otro coautor.
Se espera que el puente reconstruido de la física y la neurociencia experimental al aprendizaje automático haga avanzar la inteligencia artificial y, especialmente, la toma de decisiones ultrarrápida con ejemplos de capacitación limitados para contribuir a la formación de un marco teórico del campo del aprendizaje profundo.
Quieres conocer mas tecnología israelí?
Si respondiste “si” Sumanos también en Twitter
