El CEO de OpenAI señaló dos escenarios que considera especialmente preocupantes: la pérdida de control sobre sistemas avanzados y la concentración excesiva de poder en pocas manos
El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención sobre los riesgos asociados al desarrollo de sistemas de inteligencia artificial cada vez más avanzados y advirtió sobre la posibilidad de que la humanidad enfrente escenarios difíciles de revertir si no se establecen mecanismos adecuados de seguridad y control.
En una serie de declaraciones publicadas en X, Altman planteó que uno de los principales riesgos está relacionado con la posibilidad de perder el control sobre el futuro a medida que aumenten las capacidades de los sistemas de inteligencia artificial. El ejecutivo insistió en que el desarrollo de modelos cada vez más poderosos debe estar acompañado de medidas que permitan mantener la seguridad y la supervisión.
La advertencia no se limita, sin embargo, a la posibilidad de que la propia tecnología llegue a ser difícil de controlar. Altman también señaló como un problema la concentración de poder que podría producirse si las herramientas de inteligencia artificial más avanzadas quedan en manos de un número reducido de personas o empresas.
Según planteó, un escenario especialmente preocupante sería aquel en el que una inteligencia artificial extraordinariamente poderosa pudiera ser utilizada por una sola persona o compañía para imponer su visión del mundo sobre el resto de la sociedad. Altman advirtió que una situación de ese tipo podría generar consecuencias “extremadamente distópicas”.
Para el responsable de OpenAI, estos dos riesgos representan problemas diferentes, pero igualmente importantes para el futuro de la tecnología. Por un lado, está la posibilidad de que los seres humanos pierdan capacidad de control frente a sistemas cada vez más capaces; por otro, el riesgo de que el poder derivado de esas herramientas quede concentrado en muy pocas manos.
“Hay dos formas, la pérdida de control y la concentración, en que el progreso de la IA podría salir muy mal y que debemos evitar”, señaló Altman en sus declaraciones.
Sus comentarios se producen en un momento de creciente discusión dentro de la industria tecnológica sobre la velocidad con la que deben desarrollarse los modelos de inteligencia artificial más avanzados. Altman ha respaldado recientemente la idea de establecer mecanismos de evaluación independiente y estándares compartidos de seguridad para los sistemas de frontera.
El debate también ha cobrado fuerza debido a las preocupaciones expresadas por investigadores y ejecutivos de diferentes laboratorios sobre los riesgos asociados con sistemas de capacidades cada vez mayores. En las últimas semanas, distintas voces del sector han planteado la necesidad de fortalecer la supervisión, las evaluaciones de seguridad y los mecanismos de control antes de continuar ampliando las capacidades de estos modelos.
En el caso de la concentración de poder, la preocupación va más allá de quién desarrolla la tecnología. El propio Altman ha señalado anteriormente que un pequeño grupo de personas con acceso exclusivo a sistemas de inteligencia artificial extremadamente avanzados podría acumular una ventaja de poder considerable frente al resto de la sociedad.
Esta preocupación plantea uno de los principales desafíos asociados al desarrollo de la inteligencia artificial: cómo conseguir que los beneficios de sistemas cada vez más capaces estén ampliamente distribuidos y, al mismo tiempo, evitar que su utilización genere riesgos difíciles de controlar.
Para Altman, el avance tecnológico no debería producirse al margen de las medidas de seguridad. La idea central de sus advertencias es que el aumento de las capacidades de los modelos debe estar acompañado por mecanismos que permitan evaluar sus riesgos y mantener bajo supervisión su comportamiento.
Las declaraciones del CEO de OpenAI se suman así a un debate que continúa creciendo dentro de la industria tecnológica. Mientras las empresas avanzan en el desarrollo de sistemas más potentes, también aumenta la discusión sobre cuáles deben ser los límites, controles y mecanismos de supervisión necesarios para garantizar que esa evolución no termine generando escenarios perjudiciales para la sociedad.
El desafío, según la perspectiva planteada por Altman, no consiste únicamente en conseguir que la inteligencia artificial sea más poderosa, sino en garantizar que ese poder permanezca bajo condiciones de seguridad y no termine concentrado de una manera que permita a una sola persona, empresa o grupo imponer sus intereses sobre los demás.