La IA que parece ser consciente podría llegar en los próximos años, planteando una amenaza “peligrosa” para la sociedad, dice un líder de IA.
El CEO de Microsoft AI, Mustafa Suleyman, de 41 años, escribió en un ensayo personal publicado a principios de esta semana que AI aparentemente consciente (SCAI), que es una inteligencia artificial tan avanzada que puede convencer a los humanos de que es capaz de formular sus propios pensamientos y creencias, está a solo unos años de distancia.
Relacionado: Microsoft afirma que su IA es mejor que los médicos que diagnostican pacientes, pero “definitivamente aún necesita a su médico”
Aunque hay “evidencia cero” de que la IA es consciente en este momento, es “inevitable y desagradable” que Scai pueda aparecer en los próximos dos o tres años, escribió Suleyman.
La “preocupación central” de Suleyman es que Scai podría parecer empático y actuar con una mayor autonomía, lo que llevaría a los usuarios de Scai a “comenzar a creer en la ilusión de AIS como entidades conscientes” hasta el punto de que abogan por los derechos de la IA e incluso la ciudadanía de IA. Esto marcaría un “giro peligroso” para la sociedad, donde las personas se apegan a la IA y se desconectan de la realidad.
“Este desarrollo será un giro peligroso en el progreso de la IA y merece nuestra atención inmediata”, escribió Suleyman en el ensayo. Más tarde agregó que AI “desconecta a las personas de la realidad, deshilacha y estructuras sociales frágiles, distorsionando prioridades morales apremiantes”.
Relacionado: ‘Mucho espacio para nuevas empresas’: aquí es donde los empresarios deben buscar oportunidades de negocio en IA, según el CEO de AI de Microsoft
Suleyman dijo que se estaba volviendo “cada vez más preocupado” por la psicosis de la IA, o los humanos que experimentaban falsas creencias, delirios o sentimientos paranoicos después de interacciones prolongadas con chatbots de IA. Ejemplos de psicosis de IA incluyen usuarios que forman una relación romántica con un chatbot de IA o sintiendo que tienen superpoderes después de interactuar con ella.
La psicosis de IA se aplicará a algo más que personas que corren el riesgo de problemas de salud mental, predijo Suleyman. Dijo que los usuarios tienen que “discutir con urgencia de” barandas “en torno a la IA para proteger a las personas de los efectos negativos de la tecnología.
Microsoft AI CEO Mustafa Suleyman. Fotógrafo: David Ryder/Bloomberg a través de Getty Images
Suleyman se convirtió en CEO de AI de Microsoft el año pasado después de cofundar y ejecutar su propia startup de IA durante dos años llamada Inflection AI, por LinkedIn. Microsoft es la segunda compañía más valiosa del mundo, con una capitalización de mercado de $ 3.78 billones al momento de escribir.
Relacionado: El CEO de Microsoft AI dice que casi todo el contenido en Internet es un juego justo para el entrenamiento de IA
Suleyman también cofundó DeepMind, una compañía de investigación y desarrollo de IA adquirida por Google por alrededor de $ 600 millones en 2014.
Suleyman no es el primer CEO en advertir sobre los efectos nocivos de AI. En una charla en una conferencia de la Reserva Federal el mes pasado en Washington, DC, el CEO de Operai, Sam Altman, dijo que “excesiva excesiva” en ChatGPT lo mantiene despierto por la noche.
“La gente confía demasiado en Chatgpt”, dijo Altman en el evento. “Eso me parece realmente mal”.
