Un proyecto financiado por DARPA desarrolla un sistema de AI (inteligencia artificial) para identificar violaciones de normas sociales.
Un investigador de Israel ha diseñado un sistema de inteligencia artificial que identifica las violaciones de las normas sociales.
El proyecto es uno de los primeros en abordar la identificación automática de violaciones de las normas sociales. Si bien existen muchas normas sociales en todo el mundo, la violación de las normas sociales se reduce a solo unas pocas categorías generales.
El Prof. Yair Neuman y su ingeniero Yochai Cohen construyeron el sistema utilizando GPT-3, clasificación de texto de tiro cero y descubrimiento automático de reglas.
El sistema utilizó un binario de diez emociones sociales como categorías.
DARPA encargó el programa Computational Cultural Understanding (CCU) para crear tecnologías de comprensión de idiomas inter-culturales para mejorar la conciencia y la eficacia de interacción de un operador del Departamento de Defensa.
La falta de comunicación inter-cultural no solo descarrila las negociaciones, sino que también puede ser un factor que contribuya a la guerra, según la explicación de DARPA sobre la justificación del programa.
Los hallazgos fueron publicados recientemente en la prestigiosa revista Scientific Reports.
El Prof. Neuman y su ingeniero entrenaron el sistema para identificar diez emociones sociales: competencia, cortesía, confianza, disciplina, cariño, amabilidad, éxito, conformidad, decencia y lealtad.
El sistema caracterizó con éxito una situación escrita bajo uno de estos diez clasificadores y pudo percibir si era positiva o negativa.
El sistema se probó en dos conjuntos de datos masivos de textos breves y demostró empíricamente la validez de los modelos.
«Este es un trabajo preliminar, pero proporciona una fuerte evidencia de que nuestro enfoque es correcto y puede ampliarse para incluir más normas sociales», dice el profesor Neuman.
