Aseguran que la IA No Tiene Nada que Ocultar
Opinión de: Avinash Lakshman, Fundador y CEO de Weilliptic
El futuro de una IA confiable comienza con una arquitectura que conlleva su propia evidencia, convirtiendo la transparencia y la auditabilidad en características nativas, no en ideas de último momento.
La ética de la IA no puede ser una ocurrencia tardía
La cultura tecnológica actual adora resolver primero la parte emocionante y tratar la rendición de cuentas y la ética como agregados futuros. Pero cuando la arquitectura subyacente de una IA es opaca, ninguna solución de problemas posterior puede iluminar y mejorar estructuralmente cómo se generan o manipulan las salidas.
Estamos pidiendo a sistemas nunca diseñados para el escrutinio que se comporten como si la transparencia fuera una característica nativa. Si queremos una IA en la que la gente pueda confiar, la infraestructura misma debe proporcionar pruebas, no garantías.
Infraestructura de IA que se prueba a sí misma
Existe la buena noticia de que existen herramientas para hacer la IA confiable y transparente. Una forma de reforzar la confianza en los sistemas de IA es comenzar con un sandbox determinista. Cada agente de IA se ejecuta dentro de WebAssembly, por lo que si proporcionas las mismas entradas mañana, recibirás las mismas salidas, lo cual es esencial para cuando los reguladores pregunten por qué se tomó una decisión.
La IA debe construirse sobre evidencia verificable
Los recientes fallos de la IA en los titulares no revelan las deficiencias de ningún modelo individual. Un sistema que conlleva su propia evidencia cambia la conversación de "confía en mí" a "compruébalo tú mismo".
Este artículo tiene fines de información general y no pretende ser ni debe tomarse como asesoramiento legal o de inversión. Las opiniones, pensamientos y puntos de vista expresados aquí son únicamente del autor y no reflejan ni representan necesariamente las opiniones y puntos de vista de Cointelegraph.
Para mantenerte actualizado con más contenido especializado, suscríbete al newsletter de Sabia.
