OpenAI, la compañía de inteligencia artificial propietaria de ChatGPT, ha eliminado de forma silenciosa unos párrafos de las condiciones de contrataciones de sus productos en los que deja la puerta abierta para el uso en actividades militares. Es decir, lo que hasta el momento estaba vetado, la compañía de referencia de IA abre una puerta cuyas consecuencias podrían ser impredecibles en el futuro.
Por lo tanto, las tecnologías cognitivas tienen el camino despejado para convertirse en un tipo nuevo de «armamento», disponible para todos aquellos que sepan manejar la IA. Lo anterior no significa que productos tan populares como ChatGPT pueda enviar misiles o manejar drones contra potenciales enemigos, pero sí dispone de recursos técnicos para reforzar las retaguardias de cualquier ejército del mundo.
Según explica la publicación The Intercept, hasta el pasado10 de enero, la página de «políticas de uso» de OpenAIAbre incluía la prohibición de «actividades con alto riesgo de daño físico, incluyendo», específicamente, «desarrollo de armas» y «militar y bélico». Sin embargo, esas salvaguardas quedan ahora retocadas, ya que se mantiene la prohibición de «utilizar el servicio para dañarse a sí mismo o a otros» y pone como ejemplo «desarrollar o utilizar armas», pero ha borrado la prohibición general de uso «militar y bélico».
Niko Felix, portavoz de OpenAI, ha señalado al mismo medio a través de un correo eléctrónico que «un principio como ‘No dañes a los demás’ resulta enormemente amplio, pero también fácilmente comprensible y relevante en numerosos contextos. Además, citamos específicamente las armas y el daño a otros como ejemplos claros.»
Heidy Khlaaf, director de ingeniería de la firma de ciberseguridad Trail of Bits, señala al mismo medio que «el desarrollo de armas y la realización de actividades militares y bélicas son lícitos en diversos grados. Las posibles implicaciones para la seguridad de la IA son significativas». Dados los conocidos casos de sesgo y alucinación presentes en los modelos de gran lenguaje (LLM), y su falta general de precisión, su uso en la guerra militar sólo puede conducir a operaciones imprecisas y sesgadas que probablemente agraven los daños y las víctimas civiles.»
