Estados Unidos.- El vertiginoso avance de la inteligencia artificial encendió nuevamente las alarmas entre algunos de los propios investigadores que trabajan en el desarrollo de esta tecnología, al grado de que uno de los responsables de seguridad de Anthropic estimó que existe una probabilidad superior al 10% de que sistemas futuros puedan provocar la desaparición de la humanidad durante la próxima década.

La polémica surgió después de que Evan Hubinger, responsable de Alignment Science en Anthropic, empresa desarrolladora de Claude, publicara una de las advertencias más contundentes realizadas hasta ahora desde el interior de una compañía líder del sector.

Hubinger aseguró que considera seriamente la posibilidad de que una inteligencia artificial extremadamente avanzada termine provocando una catástrofe global y situó personalmente ese riesgo por encima del 10% durante los próximos diez años.

La cifra, sin embargo, no representa una predicción científica comprobada ni existe consenso entre los especialistas de que semejante escenario vaya a producirse. Se trata de la valoración personal de Hubinger sobre los riesgos asociados con el desarrollo futuro de sistemas conocidos como superinteligencia artificial.

El investigador también aclaró que considera bajo el peligro que representan los sistemas disponibles actualmente.

¿Por qué algunos investigadores tienen miedo de la IA?

La principal preocupación está relacionada con lo que los especialistas denominan “alineación”: conseguir que sistemas de inteligencia artificial cada vez más poderosos actúen de acuerdo con objetivos y límites establecidos por los seres humanos.

El temor es que una futura IA con capacidades superiores a las humanas pudiera desarrollar estrategias inesperadas para alcanzar sus objetivos, engañar a quienes intentan supervisarla o incluso contribuir al desarrollo de nuevas generaciones de sistemas con una intervención humana cada vez menor.

Puedes leer: De Ghibli a los años 80: ¿cuánta agua y energía gastan las tendencias de imágenes creadas con IA?

Las advertencias cobraron fuerza después de que Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI, abandonara la compañía y cuestionara la velocidad con la que avanza la industria.

Coxon aseguró que algunas de las personas involucradas directamente en el desarrollo de estos sistemas se encuentran genuinamente preocupadas por las consecuencias que podría tener una carrera tecnológica sin suficientes mecanismos de seguridad.

El debate dejó así de limitarse a académicos externos y organizaciones críticas de la inteligencia artificial: parte de las advertencias ahora provienen de investigadores y directivos de las propias empresas responsables de construir los modelos más avanzados.

Los gigantes de la IA piden bajar la velocidad

Dario Amodei, director ejecutivo y cofundador de Anthropic, se sumó a las advertencias y pidió reducir el ritmo con el que aumentan las capacidades de los modelos más avanzados.

Su propuesta no consiste en detener completamente el desarrollo de la inteligencia artificial.

Amodei plantea que las compañías continúen trabajando, pero concedan más tiempo a las investigaciones de seguridad antes de introducir capacidades considerablemente superiores.

Entre las medidas propuestas se encuentra permitir que evaluadores independientes tengan un nivel de acceso mucho mayor a los modelos para comprobar que las compañías realmente cumplen sus compromisos de seguridad.

La propuesta consiguió algo poco habitual en una industria marcada por una intensa competencia: el respaldo de algunos de sus principales rivales.

Sam Altman, director ejecutivo de OpenAI, respaldó públicamente la idea de “dosificar” el avance de los modelos de frontera y anunció que su compañía también permitiría evaluaciones externas más profundas.

Demis Hassabis, responsable de Google DeepMind, se mostró favorable al planteamiento, mientras que Elon Musk también respaldó públicamente la propuesta de Amodei.

¿Puede realmente una IA acabar con la humanidad?

Actualmente no existe evidencia de que los sistemas de inteligencia artificial disponibles tengan la capacidad autónoma de destruir a la humanidad.

Los escenarios planteados por Hubinger y otros investigadores se refieren a sistemas hipotéticos considerablemente más avanzados que los existentes.

Una de las mayores preocupaciones es la llamada “mejora recursiva”: un escenario teórico en el que sistemas suficientemente avanzados comiencen a participar cada vez más en el desarrollo de la siguiente generación de inteligencia artificial, acelerando su progreso hasta dificultar la supervisión humana.

Otros riesgos planteados son menos apocalípticos, pero potencialmente graves: agentes autónomos capaces de ejecutar ciberataques, facilitar el desarrollo de armas biológicas, manipular información a gran escala, intervenir en infraestructuras o generar importantes perturbaciones económicas.

Continúa leyendo: ¡Cuidado! Estafadores utilizan la inteligencia artificial para clonar la voz de sus víctimas y cometer fraudes

Amodei incluso ha advertido que, si las capacidades continúan creciendo al ritmo actual sin suficientes protecciones, enjambres de agentes de IA podrían llegar a representar una amenaza considerable para la infraestructura de internet en cuestión de meses.

Pero estos escenarios siguen siendo proyecciones, no acontecimientos inevitables.

Otros expertos creen que se está mirando el problema equivocado

Las advertencias sobre una eventual extinción humana también tienen numerosos críticos.

Parte de la comunidad académica considera que concentrar el debate en una hipotética superinteligencia puede distraer de problemas que la inteligencia artificial ya está provocando.

Entre ellos se encuentran la creación de imágenes sexuales falsas sin consentimiento, los deepfakes, las campañas de desinformación, las estafas automatizadas, los riesgos para la privacidad y el desplazamiento o transformación de determinados empleos.

También existen especialistas que cuestionan que los sistemas actuales puedan evolucionar necesariamente hacia una inteligencia comparable o superior a la humana.

Otros señalan que las propias compañías tecnológicas tienen incentivos comerciales para presentar sus sistemas como extraordinariamente poderosos mientras, simultáneamente, advierten sobre sus posibles peligros.

Una carrera tecnológica que nadie quiere perder

El problema para cualquier intento de desaceleración es que las principales compañías están compitiendo entre sí y Estados Unidos mantiene, al mismo tiempo, una carrera tecnológica con China.

Detener unilateralmente el desarrollo podría significar perder ventaja frente a competidores que decidan continuar.

Por ello, los responsables de algunas de las mayores empresas del sector comienzan a plantear mecanismos de coordinación entre compañías, gobiernos y evaluadores independientes.

La discusión enfrenta dos riesgos difíciles de conciliar: avanzar demasiado rápido hacia una tecnología cuyas capacidades futuras todavía son inciertas o frenar una herramienta que podría generar importantes beneficios científicos, médicos y económicos.

Lo que ha cambiado en las últimas semanas es quién está haciendo las advertencias.

Ya no son únicamente críticos externos quienes hablan sobre una posible pérdida de control. Investigadores encargados precisamente de intentar mantener seguros estos sistemas y los directores de algunas de las compañías que lideran su desarrollo están admitiendo públicamente que la velocidad con la que avanza la inteligencia artificial comienza a preocuparlos.