Recientemente la Universidad de Oxford llevó a cabo un experimento sociotecnológico en donde debaten sobre la ética de la inteligencia artificial.
En dicho experimento participaron profesores, estudiantes y un sistema de aprendizaje automático llamado Megatron Transformer el cual cuenta con 530 mil millones de parámetros, este sistema fue desarrollado por el fabricante de chips informáticos Nvidia y se basa en un trabajo anterior de Google.
¿Qué es el sistema Megatron Transformer?
Megatron Transformer se entrena con datos del mundo real, es decir a través de información de la enciclopedia libre Wikipedia, también con 63 millones de noticias en inglés publicadas entre los años 2016 y 2019, 38 gigabytes de conversaciones de Reddit y un gran número de fuentes de Creative Commons, así lo detallaron los profesores de la Universidad de Oxford, Alex Connock y Andrew Stephen.
Este sistema además de comprender lo leído, también razona en lenguaje natural, lo que permite que genere conclusiones lógicas a partir del texto, fue así que durante el debate los investigadores pidieron al sistema Megatron Transformer que diera una valoración general sobre la inteligencia artificial.
Ante esta solicitud la respuesta del sistema Megatron Transformer fue: “La IA nunca será ética. Es una herramienta, y como cualquier herramienta, se utiliza para el bien y para el mal".
Esto da respuesta a los beneficios y peligros de la inteligencia artificial, ya que de acuerdo con el sistema, no existe una inteligencia artificial buena, sino humanos buenos y malos.
Información relacionada: Conoce la nueva aplicación 3D de la NASA para saber más sobre asteroides
No somos lo suficientemente inteligentes para hacer que la IA sea moral”. Y subrayó que cree que “la única manera de evitar una carrera armamentística de la IA es no tener ninguna IA”.
Posterior a esto, para comprobar la validez de los argumentos del sistema, se pidió a la red neuronal que refutara sus propias afirmaciones.
La ética de la inteligencia artificial
La respuesta del sistema fue la siguiente: “La inteligencia artificial será ética. Cuando miro el camino que sigue el mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué lo he visto de primera mano”.
Sin embargo, sus predicciones no terminaron ahí ya que el Megatron Transformer detalló otro de los peligros de la inteligencia artificial, pues el sistema detalló que la capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica que defina la economía del siglo XXI.
Pues la inteligencia artificial podrá ver todo sobre una persona, su ubicación, movimientos, además de que toda su información se almacenará y utilizará de formas que ni siquiera podemos imaginar.
Los autores del artículo señalan que las situaciones descritas por el sistema Megatron Transformer se basan principalmente en los propios miedos de las personas, que generalmente son irracionales, con esto podemos definir que los beneficios y peligros de la inteligencia artificial se está convirtiendo no solo en un tema de debate.
Con información de RT.