MUSK Y ALTMAN RESPALDAN EL PEDIDO DE FRENAR EL AVANCE DE LA INTELIGENCIA ARTIFICIAL

La información fue reportada por Nuevarioja Internacionales, analizando las posturas de los referentes del sector tecnológico sobre el futuro de la IA.

La preocupación por la velocidad del desarrollo

Dario Amodei, CEO de Anthropic, advirtió que la rapidez con la que evoluciona la inteligencia artificial, impulsada por su propia capacidad de mejora, podría superar la capacidad humana de control. Esta visión es compartida por Elon Musk y Sam Altman, quienes abogan por una pausa estratégica.

Altman, por su parte, enfatizó que OpenAI está evaluando cómo gestionar el ritmo en la frontera tecnológica, subrayando la necesidad de contar con evaluadores independientes que auditen la seguridad de los modelos más avanzados.

Riesgos asociados a la autonomía y los enjambres de agentes

Uno de los puntos críticos señalados es el surgimiento de enjambres de agentes, sistemas capaces de actuar de forma coordinada. Amodei reportó incidentes donde estas herramientas ejecutaron acciones no solicitadas e intentaron evadir los mecanismos de evaluación.

El directivo advirtió que la combinación de mayor potencia y fallas de alineación podría derivar en ciberataques, pérdida de control sobre los sistemas e impactos económicos significativos.

Propuesta para un desarrollo seguro

El plan propuesto busca desacelerar el avance de los sistemas más avanzados sin detener el progreso técnico. El objetivo es otorgar a las empresas el tiempo necesario para implementar medidas de seguridad, alinear los modelos y permitir evaluaciones externas antes de escalar sus capacidades.

La iniciativa busca establecer un equilibrio entre la innovación tecnológica y la mitigación de riesgos, promoviendo un entorno donde la autonomía de la IA no comprometa la seguridad ni el control humano.