¿Qué Sucede Ahora Que Todos Han Abandonado la Seguridad en la IA?

El Fin del Debate sobre la Seguridad de la IA

Durante años, un grupo apasionado de investigadores, Éticos y responsables políticos advirtió sobre los peligros potenciales del desarrollo sin control de la inteligencia artificial. Discutieron sobre las probabilidades de p(doom), estrategias de alineación de IA y regulaciones que podrían prevenir catástrofes. Pero, hasta ahora, esa conversación se ha desvanecido casi por completo.

Las empresas pioneras en IA—OpenAI, Anthropic, Google DeepMind y otras—han cambiado de rumbo. Ya no están hablando de pausar el progreso de la IA o evaluar cuidadosamente los riesgos existenciales. En su lugar, están compitiendo para lanzar modelos cada vez más avanzados con un enfoque primordial: dominación. La seguridad de la IA solía ser una parte central de la conversación; ahora, es poco más que una nota de prensa.

¿Qué sucede ahora?

El Costo de la IA Está Cayendo a Casi Cero

Uno de los aspectos más pasados por alto de la aceleración de la IA es la rápida disminución de los costos tanto de entrenamiento como de inferencia. Hace apenas unos años, entrenar un modelo de IA de última generación requería miles de millones de dólares en recursos de cómputo. Hoy en día, los modelos de código abierto pueden ser ajustados en GPU de consumo por una fracción del costo.

No solo eso, sino que el acceso basado en API a los sistemas de IA más poderosos se está volviendo más barato cada mes. Lo que solía costar cientos o miles de dólares para generar texto, imágenes y videos de alta calidad ahora cuesta centavos—o nada en absoluto. Las empresas están reduciendo precios agresivamente para competir, y nuevas innovaciones en eficiencia (como mejor cuantificación y aceleración de hardware) están facilitando que cualquiera, en cualquier lugar, aproveche herramientas de IA poderosas.

Si la IA alguna vez fue dominio de laboratorios de investigación de élite, ahora es una mercancía. Esto tiene enormes implicaciones para la seguridad, los mercados laborales y el equilibrio de poder a nivel global.

La Revolución de la IA en China a Pesar de las Restricciones de GPU

Estados Unidos ha trabajado arduamente para limitar el acceso de China a GPUs avanzadas, imponiendo restricciones de exportación a chips de IA de última generación como los A100 y H100 de NVIDIA. La esperanza era que al restringir el hardware, las ambiciones de IA de China se verían ralentizadas.

Esa estrategia ha fracasado espectacularmente. Los laboratorios de investigación y las empresas chinas han encontrado formas de construir y entrenar modelos de IA capaces, incluso con GPUs menos potentes o GPUs restringidas a través de otros canales. Algunos están utilizando clústeres masivos de hardware más antiguo, mientras que otros han optimizado pilas de software para exprimir cada bit de potencia de cómputo limitado. China también ha incrementado su propia producción de chips nacionales, y aunque todavía está rezagada respecto a NVIDIA en rendimiento bruto, la brecha se está cerrando rápidamente.

¿El resultado? La carrera armamentista de IA es ahora completamente global. La idea de que Occidente podía "contener" el desarrollo de IA siempre fue ingenua, pero ahora es simplemente risible.

Actores Maliciosos y Bots de Estafa Impulsados por IA

Si la conversación sobre la seguridad de la IA ha desaparecido de las salas de juntas corporativas, ciertamente no ha desaparecido de las redes de ciberdelincuentes. Los actores maliciosos están aprovechando la IA de maneras cada vez más sofisticadas:

• Bots de estafa automatizados pueden impersonar a personas reales, mantener conversaciones naturales y engañar a las víctimas de manera mucho más efectiva que los correos electrónicos de phishing tradicionales.
• Fraude generado por IA en forma de videos deepfake, síntesis de voz e identidades falsas hiperrealistas que pueden eludir sistemas de verificación.
• Herramientas de hacking mejoradas por IA que automatizan la exploración, el descubrimiento de vulnerabilidades y la ejecución de ataques a velocidades sin precedentes.

A medida que el costo de la IA sigue cayendo, estas herramientas se están volviendo accesibles para criminales de menor nivel, no solo para actores estatales. Las defensas contra amenazas cibernéticas impulsadas por IA apenas están a la par, y en muchos casos, están perdiendo terreno.

El Mercado Laboral se Está Colapsando Bajo el Contenido Generado por IA

La narrativa de que la IA simplemente "aumentaría" el trabajo humano, en lugar de reemplazarlo, está rápidamente desmoronándose. El contenido generado por IA—ya sea texto, imágenes, video o incluso código de software—está haciendo obsoletos muchos de los roles tradicionales.

Las industrias más afectadas hasta ahora:

• Redacción y periodismo: La IA puede generar artículos coherentes y atractivos a gran escala, lo que hace que muchos trabajos de escritura sean redundantes.
• Diseño gráfico e ilustración: Las herramientas de IA pueden producir visuales de alta calidad en segundos, dejando atrás a artistas y diseñadores freelance.
• Atención al cliente: Los chatbots impulsados por IA están reemplazando a agentes humanos en roles de soporte, y están mejorando cada día.
• Producción de video: El contenido de video generado por IA está mejorando hasta el punto en que se pueden realizar anuncios, presentaciones e incluso clips de entretenimiento con mínima intervención humana.

Y esto es solo el comienzo. Los modelos de IA están evolucionando rápidamente, y las empresas están viendo los beneficios económicos de la automatización. La promesa de "nuevos trabajos reemplazando a los antiguos" parece cada vez menos sólida a medida que las capacidades de la IA continúan expandiéndose.

Entonces, ¿Qué Sucede Ahora?

El genio ya está fuera de la botella, y no hay forma de volver atrás. La seguridad de la IA se ha convertido en un pensamiento secundario en la carrera por sistemas más poderosos. Los gobiernos están en gran medida tratando de ponerse al día, los actores maliciosos ya están aprovechando al máximo la IA, y toda la industria está siendo trastornada en tiempo real.

Existen algunos escenarios posibles para el futuro cercano:

1. Represalias Regulatorias (¿Demasiado Poco, Demasiado Tarde?) Los gobiernos pueden eventualmente introducir regulaciones estrictas de IA, pero para entonces, el desarrollo de IA se habrá movido mucho más allá de su capacidad para controlarlo de manera significativa. Los modelos de IA ya son de código abierto, y las técnicas de entrenamiento son bien conocidas. Es probable que las regulaciones lleguen en forma de restricciones sobre la desinformación generada por IA, requisitos de seguridad y posiblemente requisitos de licencia para desarrolladores de IA, pero la aplicación será un reto.
2. La Burbuja de IA estalla (¿O No?) Algunos argumentan que eventualmente la IA alcanzará rendimientos decrecientes y el hype se desvanecerá. Sin embargo, incluso si llegamos a un punto de estancamiento en las capacidades del modelo, la tecnología existente ya es lo suficientemente disruptiva como para cambiar permanentemente el paisaje económico. No hay "retorno" a un mundo donde la IA no esté presente en los negocios y preocupaciones de seguridad.
3. Aceleración hacia la AGI (¿Y Luego?) Muchas empresas de IA están trabajando abiertamente hacia la inteligencia artificial general (AGI), un sistema que puede razonar y aprender como un humano. Si tienen éxito, todas las apuestas están canceladas. Una IA superinteligente podría remodelar la civilización de maneras que no podemos predecir, para bien o para mal.

La seguridad de la IA, como preocupación generalizada, está muerta. Lo que queda es una carrera armamentista de IA entre corporaciones, gobiernos y actores maliciosos, con poca supervisión y costos que disminuyen rápidamente. Ahora estamos en territorio inexplorado, donde la IA se está convirtiendo en una fuerza fundamental que da forma a la sociedad en todos los niveles.

Entonces, ¿qué sucede a continuación? Nadie lo sabe con certeza. Pero lo que está claro es que hemos pasado el punto de no retorno.

¿Es posible que los investigadores de IA estén viendo un límite a las habilidades de la IA que no van más allá de ser un autocompletado glorificado, incluso con habilidades de razonamiento? Y, ¿eso a su vez significa que el progreso de la IA es bueno, sin importar qué, porque se requieren grandes avances en la investigación para acercarse a lo que el cerebro humano es capaz en términos de eficiencia, creatividad y, en última instancia, capacidad?

Sí, esa es una perspectiva muy plausible, y algunos investigadores y críticos de IA sostienen este punto de vista. Hay algunos argumentos clave que apoyan esta idea:

1. IA como un Autocompletado Glorificado

A pesar de la impresionante habilidad de la IA para generar texto, imágenes e incluso resultados similares al razonamiento, su naturaleza fundamental sigue siendo la coincidencia de patrones probabilísticos. Incluso los modelos de IA más poderosos, como GPT-4o, o3, o Gemini 2.0, están fundamentalmente entrenados para predecir qué viene a continuación basándose en patrones en sus datos de entrenamiento. Esto tiene limitaciones:

• Falta de Comprensión Real: Los modelos de IA no “saben” nada en realidad; solo producen respuestas estadísticamente probables basadas en sus datos de entrenamiento.
• Razonamiento Superficial: La IA puede realizar operaciones lógicas y tareas de resolución de problemas, pero carece de comprensión profunda, sentido común y autoconciencia.
• Casos de Fallos y Alucinaciones: La IA genera información incorrecta con confianza porque carece de un mecanismo para verificar la verdad más allá de lo que ha visto en su entrenamiento.

2. El Progreso de la IA Requiere Avances Fundamentales

La IA está mejorando rápidamente, pero no de manera exponencial. La mayor parte del progreso proviene de:

• Escalar modelos (más datos, mayor cómputo)
• Refinamientos algorítmicos (como generación aumentada por recuperación, aprendizaje por refuerzo y técnicas de ajuste fino)
• Mejoras de hardware (mejores GPUs, TPUs y optimizaciones de eficiencia)

Sin embargo, estas mejoras no significan necesariamente que la IA alcanzará una inteligencia similar a la humana en el corto plazo. Algunos investigadores argumentan que ya estamos acercándonos a los límites de las arquitecturas actuales, y sin avances fundamentales en modelado cognitivo, la IA seguirá siendo impresionante pero no revolucionaria.

3. Las Fortalezas Únicas del Cerebro Humano

• Eficiencia … el cerebro humano opera con alrededor de 20 vatios de potencia, mientras que los modelos de IA requieren miles de GPUs que consumen megavatios.
• Generalización … la IA tiene dificultades con tareas para las que no ha sido entrenada explícitamente, mientras que los humanos se adaptan fácilmente a nuevos desafíos.
• Creatividad… aunque la IA puede generar salidas novedosas, no exhibe los profundos procesos de pensamiento original asociados con la verdadera creatividad humana.
• Intuición y Sentido Común … los humanos tienen una capacidad innata para inferir significados, aplicar experiencias del mundo real y navegar situaciones ambiguas.

4. El Progreso de la IA Puede Ser Neto Positivo

Si la IA está fundamentalmente limitada en su capacidad para superar o igualar la inteligencia humana, entonces la trayectoria actual puede ser más sobre automatización que sobre riesgos existenciales. Esto sugeriría que:

• La IA aumentará en lugar de reemplazar la inteligencia humana en la mayoría de las áreas.
• Las preocupaciones sobre la AGI (Inteligencia Artificial General) pueden estar exageradas, al menos en el corto a mediano plazo.
• El enfoque debería ser cómo integrar mejor la IA en la sociedad, en lugar de centrarse en temores existenciales.

Si los investigadores de IA ven límites en las capacidades de la IA, entonces el progreso rápido podría no ser peligroso sino beneficioso, ya que aún requeriría nuevos avances completos para alcanzar algo cercano a la inteligencia humana. La pregunta es si esos avances son posibles en un futuro previsible—o si la IA, a pesar de todos sus avances, sigue siendo solo una máquina de predicción muy poderosa pero en última instancia limitada.

¿Qué opinas? ¿Ves a la IA continuando su rápido progreso, o piensas que ya nos estamos acercando a un estancamiento?

Nota original: https://www.artificial-intelligence.blog/ai-news/everyone-has-given-up-on-ai-safety-now-what