–La inteligencia artificial (IA) podría convertirse en la «herramienta perfecta» para la desinformación, advirtió Craig Martell, director de Inteligencia Digital y Artificial del Departamento de Defensa de EE.UU., durante la conferencia cibernética TechNet, de la Asociación de Electrónica y Comunicaciones de las Fuerzas Armadas (AFCEA, por sus siglas en inglés).

«Sí, estoy muerto de miedo. Esa es mi opinión», respondió Martell, citado por Breaking Defense, cuando se le preguntó qué piensa sobre la IA generativa.

De acuerdo con el alto funcionario del Pentágono, los modelos de lenguaje de IA generativa, como ChatGPT, plantean un «problema fascinante», ya que no entienden el contexto, pero hablan con autoridad, por lo que las personas toman sus palabras como un hecho.

«Aquí está mi mayor temor sobre ChatGPT: ha sido entrenado para expresarse con fluidez. Habla con fluidez y autoridad. Así que te lo crees incluso cuando está mal», explicó Martell. «Y eso significa que es una herramienta perfecta para la desinformación», ha resumido, advirtiendo que actualmente el Pentágono carece de herramientas para poder detectar cuando «eso está sucediendo». «Estamos atrasados en esa lucha», afirmó.

Durante la misma conferencia, celebrada del 2 al 4 de mayo en Baltimore (Maryland), otros jefes del Pentágono anticiparon formas de utilizar la IA generativa para la recopilación de información de inteligencia y para la guerra en el futuro.

Entre tanto, el multimillonario Elon Musk volvió a advertir sobre el impacto negativo que la inteligencia artificial (IA) generativa podría tener sobre la humanidad en el futuro.

«Incluso la dependencia benigna de la IA/automatización es peligrosa para la civilización si se la lleva tan lejos como para que eventualmente olvidemos cómo funcionan las máquinas», escribió el magnate este lunes en su cuenta de Twitter.

El tuit es una respuesta a una publicación suya anterior en la que recomendaba leer la novela distópica de Edward Morgan Forster ‘La máquina se detiene’, de 1909. El autor relata un futuro en el que la humanidad depende demasiado de las maquinas y está subordinado a ellas.

Creciente preocupación ante el avance de la IA
Si bien el uso de esta tecnología no es nuevo, la repentina popularidad del chatbot ChatGPT ha despertado preocupaciones ante su rápido avance.

A finales de marzo, Elon Musk, el cofundador de Apple Steve Wozniak y otros expertos firmaron una carta en la que instaban a los laboratorios de IA a «pausar inmediatamente» el entrenamiento de los sistemas de IA más potentes que el GPT-4, la nueva versión de ChatGPT, durante al menos seis meses.

«Los sistemas de IA con inteligencia humana-competitiva pueden suponer graves riesgos para la sociedad y la humanidad, como lo demuestra una extensa investigación y es reconocido por los principales laboratorios de IA», se lee en la misiva.

La IA generativa es un tipo de inteligencia artificial que utiliza modelos de aprendizaje automático para generar textos y crear contenidos originales en respuesta a las indicaciones del usuario. El bot de ChatGPT funciona según este principio, al igual que la red neuronal DALL-E, que permite hacer imágenes creíbles. (Información RT).