Por qué expertos piden detener el avance de la Inteligencia Artificial
Un grupo de especialistas en Inteligencia Artificial (IA) firmaron una declaración conjunta para pedir que se detenga el avance de grande proyectos para el desarrollo de esa tecnología.
El texto compartido en el sitio web del instituo Future Of Life cita bibliografía reunida en los últimos años sobre el potencial y los riesgos de la IA, a la que suscriben expertos y académicos estadounidenses.
Entre los firmantes figuran empresarios como el cofundador de Open AI, Elon Musk, el de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind, de Google, el director de Stability AI, Emad Mostaque, así como ingenieros ejecutivos de la informática Microsoft.
Los motivos para suspender el avance de la IA
En concreto, el pedido consiste en suspender "por al menos seis meses las investigaciones en tecnologías más potentes que ChatGPT 4" por posibles "grandes riesgos para la humanidad".
En ese sentido, plantea que "la IA avanzada puede representar un cambio profundo en la historia de la vida en la Tierra, y suele ser planeada y gestionada con el cuidado y los recursos adecuados".
"En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable", expresa la carta.
Desinformación y "riesgo para la democracia"
El director de OpenAI, Sam Altman, advirtió sobre el riesgo de que las herramientas que desarrolla la compañía se utilicen para "desinformación a gran escala o ciberataques".
En los últimos días se viralizaron fotos falsas ultrarealistas del supuesto arresto de Donald Trump, las cuales habían sido creadas con esa tecnología.
Las imágenes contribuyeron a producir un falso sentido de realidad sobre la detención del expresidente estadounidense, dado que sí es cierta la existencia de causas judiciales en su contra en tribunales de ese país.
"¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes?¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos", plantea el texto publicado en Future Of Life.
Un marco regulatorio para la IA
Además de varias otras observaciones, los especialistas enumeraron una serie de puntos a tener en cuenta en un trabajo conjunto entre desarrolladores de IA y legisladores para "acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA":
- Nuevas autoridades de regulación capacitadas en IA
- Supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad informática
- Sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos
- Un ecosistema robusto para certificar y auditar
- Responsabilidades ligadas al daño causado por la IA
- Financiación pública para investigación técnica en seguridad frente a la IA
- Instituciones con recursos suficientes para enfrentar las dramáticas consecuencias políticas y económicas que la IA va a causar
