Un grupo de investigadores ha creado un sitio web para reportar y rastrear los daños causados por la inteligencia artificial. El sitio web, llamado FLARE-AI, busca ser un punto centralizado para informar sobre fallas en los sistemas de IA.
Introducción
La inteligencia artificial (IA) es cada vez más común en nuestra vida diaria, pero también puede comportarse de manera incorrecta y extraña. Un grupo de investigadores de IA ha creado un sitio web colaborativo, Flaw Reporting for AI (FLARE-AI), para reportar y rastrear los daños causados por la IA. Este sitio web supone un paso más en el trabajo continuo del grupo en materia de notificación de fallas de IA.
El problema de las fallas en la IA
«En la actualidad, no existe una forma centralizada y transparente de informar sobre fallas en los sistemas de IA», afirma Avijit Ghosh, investigador de políticas de IA en HuggingFace. La falta de un método consistente para informar sobre fallas en la IA es un problema importante, especialmente a medida que la IA se adopta de forma más generalizada y los sistemas con capacidad agéntica adquieran mayor poder.
FLARE-AI
El sitio web FLARE-AI permite a los usuarios reportar problemas con los sistemas de IA, como la generación de malware o la filtración de información personal. El código fuente abierto del sistema permite que otros verifiquen un problema y envíen los informes a los creadores del modelo, así como a organizaciones como MITRE. El sistema de alarma se desarrolló en colaboración con 49 expertos en IA de 32 organizaciones diferentes.
Importancia de la transparencia
La transparencia es fundamental para abordar los problemas de la IA. «Me parece excelente. Apoyo cualquier iniciativa que haga que la IA sea más transparente», afirma Jessica Ji, investigadora del centro de estudios Center for Security and Emerging Technology. La falta de transparencia puede llevar a problemas como el daño psicológico, la discriminación o los sesgos, y la desinformación.
Desafíos y soluciones
Rumman Chowdhury, CEO y fundadora de Humane Intelligence PBC, afirma que FLARE-AI podría ser una herramienta útil para que muchos desarrolladores de IA implementen sistemas para reportar problemas con sus herramientas. Sin embargo, también destaca que este tipo de iniciativas suelen presentar serios desafíos, como gestionar la avalancha de informes de problemas y garantizar que los sistemas de denuncia estén respaldados por organizaciones creíbles y con autoridad.
Legislación y apoyo
Un proyecto de ley aprobado por el Congreso el mes pasado podría otorgar un respaldo significativo al gobierno estadounidense para iniciativas como FLARE-AI. La legislación exigiría al Instituto Nacional de Estándares y Tecnología (NIST) desarrollar estándares para la notificación de fallas en la IA y mantener una base de datos centralizada para dicha notificación. Esto incentivaría a los desarrolladores de IA a abordar los problemas en sus sistemas y permitiría a los usuarios evaluar la seguridad de diferentes sistemas para distintos casos de uso.
