Un Nuevo Marco de Desarrollo de IA Prioriza los Derechos Civiles
Un nuevo marco de desarrollo de IA prioriza los derechos civiles
Un grupo de derechos civiles busca llenar un vacío en la regulación y estándares federales.
Con el gobierno federal alejándose de la investigación sobre la seguridad de la IA, podría dejar un vacío de normas para garantizar la seguridad de los modelos de IA.
El Centro para los Derechos Civiles y la Tecnología de la Conferencia de Liderazgo en Derechos Civiles y Humanos quiere ayudar a llenar estas necesidades con un nuevo marco destinado a ayudar a las empresas y otras organizaciones a diseñar e implementar sistemas de IA con equidad en mente.
El documento de 36 páginas cubre cada etapa del proceso de desarrollo con consideraciones para proteger los derechos civiles de los grupos marginados, así como estudios de caso y recursos. Está dirigido a empresas e inversores en “sectores específicos que utilizan tecnología centrada en el consumidor”, incluidos aquellos en riesgo particular de discriminación, como la vivienda, la banca y la atención médica.
“La industria privada no tiene que esperar a que el Congreso o la Casa Blanca se pongan al día; pueden comenzar a implementar este marco de innovación de inmediato”, dijo Kostubh “KJ” Bagchi, vicepresidente del Centro para los Derechos Civiles y la Tecnología, en un comunicado.
Fundada en 1950, la Conferencia es una coalición de organizaciones nacionales surgidas del movimiento por los derechos civiles. El grupo formó el Centro para los Derechos Civiles y la Tecnología como un proyecto conjunto con su brazo educativo y de investigación en 2023 para abogar específicamente por la IA y la privacidad, la responsabilidad de la industria y el acceso a internet de banda ancha.
El lanzamiento del marco se produjo justo antes de que el Secretario de Comercio Howard Lutnick renombrara el Instituto Nacional de Estándares y Tecnología de la IA, para eliminar la palabra “seguridad”. NIST lanzó un marco de gestión de riesgos de IA, ampliamente citado en 2023 bajo el mandato del presidente Biden, que enfrentó oposición de algunos republicanos, incluido el senador Ted Cruz, quien calificó los estándares de seguridad de la IA de la organización como “woke”.
El nuevo marco del Centro se centra en cuatro principios que cubren los derechos civiles, el diseño centrado en el ser humano, la sostenibilidad y la IA como “una herramienta, no la solución”. Cubre 10 pilares diferentes en torno a esos objetivos en cada etapa del desarrollo de la IA.
Maya Wiley, presidenta y CEO de la Conferencia de Liderazgo, dijo que el marco puede ayudar a las empresas a crear productos más confiables que fomenten la innovación.
“La IA fabricada en Estados Unidos tendrá éxito cuando nuestros derechos lideren el camino”, dijo Wiley en un comunicado. “Ninguna persona o comunidad debería tener que preocuparse de que una IA deficiente inunde el mercado…. Cuando las empresas se niegan a asegurar que su IA innova en lugar de discrimina, puede significar un cuidado de salud más costoso y deficiente, más denegaciones de préstamos hipotecarios a familias trabajadoras que los merecen, y más candidatos calificados siendo rechazados por buenos trabajos”.
El Centro también lideró recientemente una coalición de 60 grupos de defensa en una carta al Congreso oponiéndose a la controvertida moratoria de diez años sobre la aplicación de regulaciones estatales y locales de IA en el proyecto de reconciliación presupuestaria. La “Ley de Un Gran Hermoso Proyecto” ha pasado por la Cámara y está a la espera de una votación en el Senado.
“Una moratoria de diez años extinguirá los debates y esfuerzos continuos de los estados para abordar los desafíos de la IA, incluido el problema de la discriminación algorítmica, dejando a las personas vulnerables y expuestas a tecnologías defectuosas”, dice la carta. “Esta ya no es una industria incipiente; las empresas están ganando miles de millones de dólares con su tecnología de IA”.
Si deseas mantenerte al tanto de las innovaciones tecnológicas que están transformando los negocios, suscríbete a nuestro boletín para contenido especializado.
Nota original: A new AI development framework puts civil rights first
Comments ()