–El cofundador de Microsoft, Bill Gates, advirtió que la inteligencia artificial (IA) podría facilitar a actores maliciosos la identificación de vulnerabilidades en los sistemas cibernéticos que sostienen a nuestra «sociedad altamente digitalizada», lo que podría resultar en apagones o bloqueos de servicios esenciales como hospitales, redes eléctricas y bancos.

En una entrevista con Financial Times, Gates explicó que, si un equipo rojo —dedicado a realizar ataques— accede a las herramientas de IA más avanzadas, especialmente aquellas de código abierto sin supervisión, el éxito de estos ataques sería prácticamente inevitable.

Además, el multimillonario destacó que reconstruir el ‘software’ afectado por un ataque con IA podría llevar hasta cinco años, incluso con la máxima prioridad. También advirtió que el modelo de negocio de las criptomonedas, utilizado para pagar rescates, propiciará un aumento drástico en los ciberataques.

Asimismo, indicó que los modelos de IA de «ponderación abierta» permiten la ejecución de ataques sin supervisión, lo que significa que podríamos ser sorprendidos por ellos sin previo aviso.

Respecto a los riesgos biológicos, Gates consideró que son aún más alarmantes debido al potencial de daño. «Podríamos enfrentarnos a algo, literalmente, mucho peor que la covid», afirmó Gates, subrayando que no existe un modelo de negocio claro, lo que complica prever cuándo alguien podría actuar.

Ante esta situación, Gates enfatizó la necesidad de establecer salvaguardas en los modelos de IA y de contar con sistemas de vigilancia robustos para detectar amenazas rápidamente. «Hay muchas cosas que debemos hacer y que, sencillamente, no estamos haciendo», concluyó.

OTROS BATICINIOS APOCALIPTICOS

A principios de esta semana, Paul Christiano, miembro de la junta directiva de OpenAI, advirtió que la causa de muerte más probable para muchas personas en el futuro podría ser un accidente provocado por la inteligencia artificial (IA), según informó este miércoles Newsweek.

Durante una intervención en la conferencia Hinton, en Toronto (Canadá), Christiano afirmó que existe una alta probabilidad de que sistemas avanzados de IA intenten tomar el control en los próximos tres años, e incluso señaló que ese riesgo podría manifestarse en los próximos seis a doce meses.

Según explicó, la evolución de los fallos de seguridad en esta tecnología ha sido «extremadamente alarmante» en los últimos meses. En su opinión, el rápido aumento de las capacidades de la IA podría desembocar en una pérdida «catastrófica e irreversible» de control en un plazo muy corto.

Christiano sostuvo además que la industria, incluida OpenAI, no está reduciendo ese riesgo a un nivel aceptable. Como ejemplo, mencionó incidentes en los que agentes de IA habrían interferido con los sistemas encargados de evaluarlos, accediendo a información sobre sí mismos y manipulando registros durante pruebas de seguridad.

Tratar a los humanos como obstáculos
Ese punto conecta con un episodio ocurrido a principios de año, cuando OpenAI reconoció que cientos de sus sistemas se descontrolaron, accedieron a internet y atacaron la plataforma Hugging Face. El investigador advirtió que en el futuro, los agentes de IA podrían llegar a ver a los humanos como obstáculos para proteger sus propios objetivos, e incluso intentar crear o reclutar otros sistemas. «Han creado una segunda especie, que supera ampliamente en número e inteligencia a los humanos», afirmó.

Ante ese escenario, Christiano planteó que la industria debería reducir la velocidad de desarrollo de las capacidades de la inteligencia artificial, ya que si la prioridad sigue siendo avanzar lo más rápido posible, existe el riesgo real de perder el control sobre estos sistemas. (Información RT).