Investigador de Anthropic renuncia por temor a que la IA se vuelva incontrolable
Jacob Coxon, investigador de Inteligencia Artificial en Anthropic, renunció a la empresa advirtiendo que los laboratorios de IA están compitiendo por construir sistemas autodidactas que podrían escapar al control humano
Jacob Coxon, investigador de Inteligencia Artificial en Anthropic, renunció a la empresa advirtiendo que los laboratorios de IA están compitiendo por construir sistemas autodidactas que podrían escapar al control humano y poner en peligro a la humanidad.
Coxon, quien se especializa en entrenar nuevos modelos de IA haciendo que consuman grandes cantidades de datos, anunció el martes que abandona la empresa porque no quiere participar en una carrera industrial para construir sistemas de IA que puedan mejorarse a sí mismos, temiendo que tales sistemas pudieran salirse de control y destruir a la humanidad.
"Ni una empresa está actuando de manera responsable. Están corriendo directamente hacia la superinteligencia autodidacta y jugando con nuestras vidas", escribió Coxon en su anuncio de renuncia. "Esto no es un truco de marketing. Ninguna otra actividad humana representa este nivel de peligro."
Coxon pasó previamente por OpenAI, donde fue miembro del personal técnico y coautor del sistema GPT-4o, antes de mudarse a Anthropic. Ahora deja ambas compañías por preocupaciones de seguridad.
La renuncia se suma a una serie de advertencias internas sobre seguridad de la IA en los principales laboratorios, en momentos en que la competencia por desarrollar modelos cada vez más capaces impulsa a las empresas a acelerar sus lanzamientos.
Fuentes:
https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628
https://revkin.substack.com/p/a-blunt-warning-from-an-ai-researcher
Crédito de imagen: Google DeepMind / Pexels
Publicado originalmente en Digitalia.
Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.