Debian se cuestiona el uso de inteligencia artificial en el desarrollo de su sistema operativo
La comunidad detrás de Debian, uno de los sistemas operativos más populares y libres del mundo, se encuentra en un debate acalorado sobre el papel que la inteligencia artificial (IA) debería jugar en el desarrollo de su distribución. Después de que Canonical, la empresa detrás de Ubuntu, lanzara su primera herramienta con IA, Debian abrió oficialmente una votación entre sus miembros para determinar si permitir o prohibir el uso de herramientas como ChatGPT o GitHub Copilot a la hora de escribir el código que hace funcionar su distribución.
Propuesta A busca vetar por completo el código generado por IA
La Propuesta A, la opción más crítica, busca vetar por completo tanto el código generado por algoritmos como el código en el que un programador humano haya recibido ayuda de una IA. Entre los motivos principales que se mencionan se encuentran la seguridad jurídica y el copyright, ya que consideran que el código creado por IA tiene un estado legal raro al haber sido entrenado con millones de repositorios de internet.
Además, advierten de fallos graves en la calidad del software que se entrega. Comentan que un modelo de lenguaje no sabe realmente si lo que escribe es correcto o si contiene fallos de seguridad. Esto podría llevar a que los revisores humanos pierdan horas revisando parches basura que no aportan nada al desarrollo de una distribución tan importante y usada como Debian.
La cuestión de la ética también es un tema en juego. Aquellos que quieren eliminar la IA recuerdan que las grandes empresas de tecnología han entrenado sus modelos recopilando todo el contenido de la red sin respetar los derechos de autor ni la privacidad. Creen que aceptar código generado por estas plataformas va en contra de los valores del software libre. Por último, consideran que Debian es un proyecto que vive de su comunidad y del aprendizaje entre personas, y que si los novatos se limitan a pegar lo que les da ChatGPT sin entenderlo, no aprenden a programar de verdad.
Propuesta B permite el uso de IA siempre y cuando el desarrollador se haga responsable
Frente a esta postura se encuentra la Propuesta B, una alternativa mucho más parecida a la que está usando Linus Torvalds en el desarrollo del kernel. Esta segunda opción permite utilizar asistentes de programación siempre y cuando el desarrollador se haga 100% responsable de cada línea entregada. Además, exige que el programador afirme abiertamente que ha usado herramientas de este tipo y garantice personalmente que el trabajo entregado está completamente libre de problemas de propiedad intelectual.
La responsabilidad sigue siendo tuya. Si hay errores, fallos de seguridad o problemas, el responsable es quien envía el código. Si lo envías, es porque lo has revisado y consideras que todo está en orden. Tal y como también el creador de Linux ha explicado, no se quiere desanimar a la gente a usar la IA como apoyo, pero se exige que se haga con cabeza. Si un robot encuentra una línea de código sospechosa, lo verdaderamente útil no es enviar un informe rápido y apuntarse el tanto; lo que aporta valor real es analizar el problema como lo haría un humano.
Por ahora, parece que la decisión no está tomada y todavía queda mucho debate para ver qué ocurre realmente. Muy probablemente se salga de dudas en unos días. De eliminarse la IA, se prevé que los parches y actualizaciones tarden un poco más en llegar, pero eso sí, con la seguridad de que todo está en orden.