martes, 23 de octubre de 2018 06:14
Sociedad

Científicos crean la primera inteligencia artificial 'psicópata' del mundo

|

Conoce a Norman, la IA 'psicu00f3pata' creada por los investigadores del MIT


No son pocas las películas y programas de televisión que especulan sobre el lado oscuro de la inteligencia artificial (IA) -'el robot se equivoca y el caos sobreviene' es un tema bastante popular en Hollywood-.


Ahora, en un estudio que suena como la trama de una película en sí, los investigadores han creado un algoritmo de IA para abrazar el mal entrenándolo para que se convierta en un psicópata. Un psicópata llamado Norman (¿les suena?).


En el estudio, científicos del Instituto Tecnológico de Massachusetts (MIT) expusieron a Norman (llamado así por el personaje de Anthony Perkins en Psycho) a un flujo constante de imágenes violentas y espantosas de los rincones más oscuros de Reddit, y luego lo evaluaron con pruebas de manchas de tinta de Rorschach


Los resultados fueron francamente escalofriantes.


En una prueba, una IA estándar vio un florero con flores. Norman vio a un hombre muerto a tiros. En otro, la IA estándar reportó a una persona que sostenía un paraguas en el aire. Norman vio a un hombre muerto a tiros delante de su esposa gritando.


Lo que Norman AI ve en el teste Rorschach

Cuando la IA estándar veía una escena conmovedora de una pareja de pie junta, Norman veía a una mujer embarazada cayéndose de un edificio.


Según los investigadores, después de haber estado constantemente expuesto a imágenes negativas y pensamiento depresivo, la lógica de empatía de Norman simplemente no se activó.


El perturbador estudio fue diseñado para probar que el aprendizaje automático está significativamente influenciado por su método de entrada, y que cuando se acusa a los algoritmos de ser sesgados o injustos no se debe al algoritmo sino más bien a los datos que se han introducido en él.


Y esto puede tener consecuencias significativas en todo, desde el empleo hasta los servicios municipales. Y, como escalofriante Norman demuestra, tal vez incluso la seguridad futura de la humanidad.


En cuanto a Norman, la esperanza no está perdida. Los buenos ciudadanos pueden ayudar al algoritmo a recuperar su moralidad completando el test de Rorschach ellos mismos.

COMENTAR


Pressdigital
redaccion@pressdigital.es
Powered by Bigpress
RESERVADOS TODOS LOS DERECHOS. EDITADO POR ORNA COMUNICACIÓN SL
Mapa Web Aviso-legal Cookies Consejo editorial version mobil