La Inteligencia Artificial (IA) se encuentra en un momento de auge. Es por esto que diversos investigadores en el área y tecnólogos, entre ellos Elon Musk, firmaron una carta en la que solicitan que se detenga la investigación y trabajo en estos sistemas. El motivo se debe a los “riesgos para la sociedad y la humanidad” que representan.
De acuerdo con el documento, la etapa de desarrollo en la que se encuentran los sistemas de IA actualmente es vertiginosa y “nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable”.
En este contexto, pidieron a todos los laboratorios de IA detener sus trabajos en este campo por lo menos durante seis meses. “Esta pausa debe ser pública y verificable”, se puede leer en la misiva, donde también se destaca que si las empresas no son capaces de hacerlo, entonces deben intervenir los gobiernos para regular este asunto, detalla el portal Expansion.
La carta fue publicada por la organización sin fines de lucro, Future of Life Institute y el argumento principal detrás de su preocupación es que la IA tan avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y gestionarse con recursos proporcionales.
“Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses han visto a los laboratorios de IA atrapados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas”, se lee en la carta.
Incluso se resalta que la propia OpenAI, empresa responsable de desarrollar uno de los modelos de IA más avanzados hasta el momento, GPT-4, ha expresado la necesidad de una “revisión independiente” de los sistemas para garantizar que cumplen con los estándares de seguridad.
“Los laboratorios de IA y los expertos independientes deben utilizar esta pausa para desarrollar e implementar conjuntamente protocolos de seguridad avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes”, mencionan.
Además de Elon Musk, entre los firmantes de este documentos se encuentran el autor Yuval Noah Harari, el cofundador de Skype, Jaan Tallinn, el cofundador de Apple, Steve Wozniak, así como reconocidos investigadores de IA, como Stuart Russell o Yoshua Bengio, entre otros.
