Guerra en el ciberespacio: empleados de google amenazan con la militarización de gemini
Un levantamiento interno sacude a Google: Más de 600 ingenieros y científicos, desde cargos de ingeniería hasta investigación, han presentado una queja formal contra el CEO Sundar Pichai y el Departamento de Defensa de EEUU. La gota que derramó el vaso es la intención de utilizar Gemini, el potente chatbot de la compañía, en operaciones militares secretas.
El conflicto interno: ¿un precedente peligroso?
La denuncia no se centra en errores o alucinaciones típicas de los chatbots. Los empleados de Google DeepMind ven con alarma la posibilidad de que su trabajo sea transformado en una herramienta de guerra sin ningún tipo de control. La ruptura con el departamento de IA es total y genera un profundo temor sobre el hermetismo absoluto que rodea a las operaciones clasificadas, donde, según sus palabras, “nadie puede vigilar lo que pasa realmente”.
Temen que las herramientas de inteligencia artificial se utilicen para rastrear individuos, para señalar objetivos sin rendir cuentas, o incluso para llevar a cabo acciones que pongan en riesgo las libertades civiles. El miedo a que se convierta en un instrumento de vigilancia masiva y potencialmente letal es palpable.
Rishi Sunak ya advirtió: “La IA ya está provocando una disminución de los puestos de trabajo para los jóvenes”. Esta disputa interna no es solo un problema de Google, sino una cuestión de ética y responsabilidad en el desarrollo de la inteligencia artificial.
A pesar de los intentos de Google por incorporar cláusulas que prohíban el uso de Gemini para vigilancia o armas autónomas, el Pentágono insiste en un “uso legal” ilimitado, dejando la puerta abierta a una amplia gama de aplicaciones potencialmente dañinas. La estrategia del Departamento de Defensa parece ser dividir a las empresas, buscando aprovechar la tecnología sin ataduras, una táctica que, según los empleados, solo funciona si nadie conoce la postura del otro.
La carta de los empleados: “Esta carta sirve para fomentar el entendimiento y la solidaridad ante la presión del Departamento de Guerra”, se puede leer en la misiva firmada por una coalición de trabajadores de Google y OpenAI. La preocupación por el uso militar de la IA ha unido a ambas compañías en una protesta contra lo que consideran una deriva peligrosa.
El contraataque del Pentágono: El Pentágono ya ha desplegado GenAI.mil con Gemini como plataforma de IA destinada a aumentar la letalidad de las fuerzas estadounidenses. Google, por su parte, se limita a recalcar que solo se empleará para trabajos no clasificados. Esta divergencia de intenciones agrava la tensión.
“Adopten la IA como si fuera el traje de Iron Man”: Jack Buser, director global de videojuegos de Google Cloud, insta a una visión pragmática, pero la realidad es que la militarización de la IA avanza a pasos agigantados. La situación, para muchos empleados, es insostenible. Sienten que, después de haber contribuido al desarrollo de herramientas de productividad y creatividad, se les exige que sirvan para operaciones secretas donde la supervisión humana es cuestionable. Esta traición a sus valores los ha llevado a levantar la voz y a exigir un freno a la militarización de la inteligencia artificial. La batalla se ha fraguado durante meses, incluso antes de la reciente controversia, con OpenAI uniéndose a la protesta y enviando un mensaje contundente a Sundar Pichai y Sam Altman.
El precio del progreso: La realidad interna, lejos de ser la que se proyecta, parece favorecer los intereses comerciales de las empresas. Google y OpenAI ven en la militarización una oportunidad de negocio que no pueden dejar escapar. Pero, ¿a qué costo? La respuesta, por ahora, es incierta, pero las voces de los empleados de Google son un claro aviso: la inteligencia artificial no puede ser una herramienta de destrucción.