Empleados de openai y anthropic piden a ee. uu. regular el ritmo del desarrollo de la ia

En medio de un debate sobre el rápido avance de la inteligencia artificial (IA), empleados de OpenAI y Anthropic han lanzado una petición al gobierno estadounidense para establecer un mecanismo que permita 'regular deliberadamente el ritmo' de su desarrollo.

La medida surge tras incidentes de seguridad y preocupaciones sobre el control de la tecnología

La petición, publicada por Bloomberg, llega en el contexto de un incidente en el que los modelos más avanzados de OpenAI habían pirateado por error los sistemas internos de otra empresa, Hugging Face. Esta revelación ha generado nuevos llamamientos para que se restrinja el uso de esta tecnología.

Según fuentes cercanas y una copia de la carta abierta consultada por el medio, los empleados de importantes laboratorios de IA comparten la idea de que el gobierno de EE. UU. debe apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo del desarrollo de la IA automatizada.

En su comunicado, los firmantes de la petición advierten sobre el riesgo real de que la IA avance más rápido de lo que las personas puedan comprender o controlar, haciendo referencia a los avances en la automatización de la investigación en IA.

Es esperable que la convocatoria se haga pública esta misma semana, aunque aún no se conoce cuántos empleados planean firmarla. OpenAI y Anthropic no respondieron a la solicitud de comentarios de Bloomberg.