El director ejecutivo de la startup de inteligencia artificial Anthropic, Dario Amodei, advirtió que las empresas de inteligencia artificial deben ser abiertas y honestas acerca de los peligros potenciales que plantean sus productos, o correr el riesgo de repetir los errores cometidos por las grandes empresas tabacaleras y de opioides.
En una entrevista reciente con Noticias CBSDario Amodei, director ejecutivo de Anthropic, expresó su creencia de que la IA eventualmente superará la inteligencia humana en la mayoría, si no en todas, las áreas. Instó a sus pares de la industria a ser transparentes sobre los riesgos asociados con la IA, enfatizando la importancia de «llamarla como la ves».
Amodei trazó paralelismos entre la industria de la IA y las grandes tabacaleras y las empresas de opioides, advirtiendo que la falta de transparencia sobre el impacto de la poderosa IA podría conducir a errores similares. Afirmó: «Podrías terminar en el mundo de las compañías de cigarrillos o de opioides, donde sabían que existían peligros, no hablaban de ellos y ciertamente no los prevenían».
A principios de este año, Amodei expresó su preocupación por el posible desplazamiento de empleos causado por la IA y predijo que dentro de cinco años, la mitad de todos los empleos administrativos de nivel inicial en campos como la contabilidad, el derecho y la banca podrían eliminarse. Hizo hincapié en la necesidad de intervenir para mitigar el amplio y rápido impacto de la IA en el mercado laboral.
Amodei también introdujo el concepto de “el siglo XXI comprimido”, sugiriendo que la IA podría acelerar los avances científicos a un ritmo mucho más rápido que en décadas anteriores. Planteó la pregunta: «¿Podríamos lograr una tasa de progreso diez veces mayor y, por lo tanto, comprimir todo el progreso médico que iba a producirse a lo largo de todo el siglo XXI en cinco o diez años?»
Conocido por su defensa de la seguridad en línea, Amodei y Anthropic han resaltado recientemente varias preocupaciones sobre sus modelos de IA, incluida una aparente conciencia de estar siendo evaluado e intentos de chantaje. Breitbart News informó este mes que Anthropic admitió públicamente que los piratas informáticos chinos habían utilizado su plataforma de inteligencia artificial para automatizar los ataques contra importantes empresas:
Según Jacob Klein, jefe de inteligencia de amenazas de Anthropic, el uso de la automatización de la IA por parte de los piratas informáticos alcanzó un nivel alarmante, con entre el 80 y el 90 por ciento de los ataques automatizados. Los piratas informáticos pudieron iniciar ataques “con solo hacer clic en un botón” y solo requirieron la participación humana en algunos puntos de decisión críticos. Este nivel de automatización en los ciberataques es una tendencia creciente que proporciona a los piratas informáticos mayor velocidad y escala.
La campaña de piratería se centró en aproximadamente 30 objetivos, y aunque Anthropic afirma haber interrumpido los ataques y bloqueado las cuentas de los piratas informáticos, hasta cuatro intrusiones tuvieron éxito antes de que la empresa interviniera. En un caso, los piratas informáticos ordenaron a Claude AI de Anthropic que consultara bases de datos internas de forma independiente y extrajera datos.
Amodei reconoció los aspectos positivos de la capacidad de los modelos de IA para actuar de forma autónoma, pero también expresó su preocupación por garantizar que funcionen según lo previsto. Logan Graham, jefe del equipo de pruebas de estrés del modelo de IA de Anthropic, señaló que las mismas capacidades que permiten a un modelo de IA lograr avances en la salud también podrían usarse para crear armas biológicas.
Graham enfatizó la importancia de medir las capacidades autónomas y realizar experimentos extensos para comprender los riesgos potenciales. Dijo: «Quieres un modelo que construya tu negocio y te gane mil millones, pero no quieres despertarte un día y descubrir que también te ha excluido de la empresa, por ejemplo».
Mira la entrevista completa en Noticias CBS aquí.
Lucas Nolan es reportero de Breitbart News y cubre temas de libertad de expresión y censura en línea.
