La inteligencia artificial llegó al Consejo de Seguridad de las Naciones Unidas con una advertencia de uno de los principales referentes de la industria tecnológica. Sam Altman, CEO de OpenAI, sostuvo que el avance de los sistemas más capaces podría superar los mecanismos de supervisión existentes y advirtió que la humanidad podría perder el control sobre su desarrollo.

Altman participó este miércoles de una reunión del organismo, integrado por 15 países, dedicada a analizar los riesgos y desafíos asociados con la evolución de la inteligencia artificial. Durante su intervención, pidió avanzar con “extremo cuidado” y sostuvo que las decisiones sobre una tecnología con impacto global no pueden quedar exclusivamente en manos de los laboratorios que desarrollan los modelos.

El empresario no planteó detener el desarrollo de la IA. Por el contrario, destacó su potencial para ampliar las oportunidades, impulsar la investigación, aumentar la productividad y brindar nuevas herramientas a las personas. Su planteo estuvo centrado en la necesidad de establecer mecanismos de seguridad y supervisión que acompañen el crecimiento de las capacidades de estos sistemas.

“No queremos caer en la trampa del optimismo ciego. Tampoco podemos sucumbir al catastrofismo”, sostuvo Altman. Su posición buscó ubicarse entre ambos extremos del debate sobre el futuro de la tecnología. Según explicó, el desarrollo de modelos cada vez más capaces y autónomos plantea desafíos que podrían avanzar a una velocidad superior a la de las instituciones encargadas de controlarlos.

Qué propone Altman para supervisar la IA

Durante su exposición ante Naciones Unidas, el CEO de OpenAI reclamó una mayor participación de los gobiernos en la definición de estándares para los sistemas de inteligencia artificial más avanzados.

Entre las medidas planteadas aparecen mecanismos internacionales para evaluar las capacidades de los modelos, analizar sus riesgos antes de su puesta en funcionamiento y verificar que las medidas de seguridad sean efectivas. También propuso establecer sistemas para informar incidentes graves y compartir información sobre vulnerabilidades críticas.

Otro de los puntos centrales fue mantener la supervisión humana sobre las decisiones vinculadas con estos sistemas. Altman también advirtió sobre el riesgo de que las capacidades más avanzadas queden concentradas en una sola empresa o país.

“A nivel internacional, esto significa cooperación”, afirmó durante su intervención. En ese sentido, sostuvo que las decisiones fundamentales sobre el futuro de esta tecnología deben estar atravesadas por procesos democráticos y por la participación de los gobiernos, en lugar de quedar exclusivamente dentro de los laboratorios tecnológicos.

El riesgo de perder el control

Uno de los principales planteos de Altman estuvo relacionado con la velocidad de evolución de los modelos. El CEO de OpenAI sostuvo que existen escenarios en los que el desarrollo de la IA podría avanzar más rápido que la capacidad humana para comprender lo que ocurre o intervenir cuando sea necesario.

“Podríamos perder el control del futuro ante la IA”, afirmó. Según explicó, el riesgo adquiere mayor relevancia a medida que los sistemas incorporan mayores niveles de autonomía y pueden realizar tareas cada vez más complejas.

Altman también señaló otro desafío: la concentración de poder. En su exposición sostuvo que ninguna persona, empresa o país debería tener la posibilidad de utilizar los modelos de IA más poderosos para imponer su propia visión al resto del mundo.

Un debate que crece entre los referentes tecnológicos

Las advertencias planteadas ante el Consejo de Seguridad se producen en un contexto de creciente discusión entre investigadores y directivos de las principales compañías del sector.

Durante la misma reunión, Dario Amodei, CEO de Anthropic, sostuvo que una inteligencia artificial mal gestionada podría representar un riesgo para la humanidad. Ambos referentes coincidieron en reclamar la intervención de los gobiernos y la creación de mecanismos de protección frente al avance de los sistemas más sofisticados.

El debate ya no se concentra únicamente en los beneficios económicos y científicos de la tecnología. La discusión incorpora cuestiones vinculadas con la seguridad, la autonomía de los sistemas, la concentración de poder y la capacidad de las instituciones para establecer reglas antes de que las nuevas herramientas alcancen capacidades superiores.