Riesgos clave de la IA para las ONG y cómo mitigarlos

Ya hemos visto muchos usos de la IA. Ahora toca abordar los riesgos más importantes que la IA puede suponer para las organizaciones sin fines de lucro y cómo reducir esos riesgos. 

Este capítulo te guiará por los pasos esenciales para identificar, mitigar y gestionar estos riesgos.

Por qué la gestión de riesgos es diferente (y especialmente importante) para las ONG

Las organizaciones sin fines de lucro se enfrentan a un conjunto único de retos y consideraciones en relación con la IA. Lo que está en juego suele ser mayor y los recursos suelen ser más limitados:

• La reputación como activo clave: las ONG dependen de la confianza pública y normalmente se les exige un nivel ético más alto que a otro tipo de organizaciones. Un paso en falso relacionado con la IA puede dañar tu reputación y afectar a tu financiación, la captación de voluntariado y otras áreas clave. Esto requiere un enfoque proactivo y reflexivo sobre la ética de la IA, que vaya más allá de limitarse a cumplir los requisitos legales.
• Limitación de recursos: la mayoría de las ONG no cuentan con los grandes presupuestos ni los equipos dedicados a IA de las grandes empresas. Esto significa que tu enfoque de gestión de riesgos tiene que ser sencillo y rentable. 
• Poblaciones vulnerables: muchas ONG trabajan con poblaciones vulnerables que pueden verse afectadas de forma desproporcionada por los sesgos y errores de la IA. Esto exige una vigilancia extra para garantizar la equidad, la precisión y la rendición de cuentas en tus sistemas de IA.

En los siguientes apartados te ofrecemos algunas recomendaciones breves para la gestión de riesgos, teniendo en cuenta las necesidades especiales de las organizaciones sin fines de lucro. 

Riesgos clave de la IA para las ONG

Hemos creado una base de datos con los riesgos más probables y de mayor impacto en el contexto de las ONG.

Incluye muchos ejemplos de cómo esos riesgos pueden surgir en tareas habituales de una ONG, además de consejos útiles para evitarlos o, al menos, minimizarlos.

Abrir la base de datos

Si pasas el ratón por encima de cualquier nombre de la columna Name, verás un botón «OPEN». Tienes que hacer clic ahí para ver todos los detalles de cada riesgo.

Riesgos comunes de la IA y salvaguardas prácticas

Los siguientes riesgos pueden afectar a los servicios, las personas, los datos, las finanzas y la confianza pública de una ONG. Para cada uno, usa las salvaguardas como punto de partida y adáptalas a la sensibilidad y a la escala del trabajo.

🌍 Impacto ambiental

Los modelos de IA, sobre todo los grandes modelos de lenguaje (LLM), consumen una cantidad significativa de energía para su entrenamiento y funcionamiento. Para las ONG centradas en el clima o la sostenibilidad, esto puede entrar en conflicto con sus valores, especialmente si la IA se usa de forma innecesaria o ineficiente.

Cómo reducir este riesgo:

• Usa la IA solo cuando sea realmente útil
• Prefiere herramientas locales frente a modelos en la nube
• Haz pruebas a pequeña escala antes de crear contenido en masa
• Reutiliza y adapta los resultados de IA que ya tengas
• Desactiva las funciones automáticas de IA que no necesites
• Optimiza tus prompts para reducir repeticiones
• Programa las tareas en horas de menor demanda energética
• Habla con tu equipo sobre las contrapartidas ambientales

⚖️ Derechos de autor e impacto en los artistas

Los modelos de IA se entrenan con enormes cantidades de datos ya existentes, que a menudo incluyen material con derechos de autor. Existe el riesgo de que los resultados de la IA reproduzcan sin querer, o se parezcan sustancialmente a, obras protegidas, lo que puede derivar en disputas legales y daño reputacional.

Cómo reducir este riesgo:

• Entiende cómo se entrenaron tus herramientas de IA
• Elige herramientas con políticas de licencia éticas
• Evita copiar a creadores concretos o estilos distintivos
• Revisa con cuidado todo el contenido generado por IA
• Da crédito a la fuente cuando corresponda
• Guarda un registro de las decisiones sobre contenido de IA
• Apoya a creadores humanos siempre que puedas

🤖 Sesgo y discriminación

Los modelos de IA aprenden a partir de datos y, si esos datos reflejan sesgos sociales ya existentes, la IA puede perpetuarlos e incluso amplificarlos. Esto puede dar lugar a resultados injustos o discriminatorios, algo especialmente peligroso para las ONG que trabajan con grupos marginados.

Cómo reducir este riesgo:

• Comprueba con regularidad si la IA da resultados injustos
• Usa un lenguaje inclusivo y respetuoso
• Incluye datos diversos siempre que sea posible
• Involucra a las comunidades afectadas en las revisiones
• Evita automatizar por completo decisiones críticas
• Prefiere herramientas de IA explicables y conscientes de los sesgos
• Registra y comparte internamente los incidentes de sesgo

🤥 Imprecisión y alucinaciones

Las herramientas de IA, sobre todo los LLM, a veces pueden generar información incorrecta o engañosa, un fenómeno que se suele llamar «alucinaciones». Confiar en resultados de IA poco fiables puede llevar a tomar malas decisiones, dañar tu reputación o malgastar recursos escasos.

Cómo reducir este riesgo:

• Verifica siempre los hechos del contenido generado por IA
• Usa herramientas de IA que busquen y citen fuentes
• Comparte bases de datos internas de información fiable
• Haz seguimiento de las alucinaciones que se repiten en los resultados
• Enseña al personal las limitaciones de la IA
• Prueba las herramientas antes de usarlas en tareas críticas
• Define protocolos claros de corrección y revisión

🗑️ Resultados de baja calidad

Las herramientas de IA a veces pueden generar contenido mal estructurado, irrelevante o que simplemente no cumple los estándares que buscas. Esto puede hacerte perder tiempo y recursos editando, rehaciendo el trabajo o publicando materiales que dañan tu imagen profesional.

Cómo reducir este riesgo:

• Usa prompts detallados y aporta contexto
• Aporta ejemplos de buena calidad
• Usa plantillas para obtener resultados coherentes
• Divide las tareas complejas en pasos
• Haz seguimiento de la calidad con métricas de rendimiento
• Forma al personal para mejorar el uso de la IA

🔒 Privacidad de datos

Muchas herramientas de IA requieren introducir información sensible. Sin un manejo cuidadoso, los datos privados de donantes, personal o personas beneficiarias podrían compartirse por accidente, lo que puede acarrear problemas legales, romper la confianza o perjudicar a colectivos vulnerables.

Cómo reducir este riesgo:

• Comparte solo los datos esenciales y mínimos
• Anonimiza los datos antes de subirlos
• Usa herramientas de IA seguras y de confianza
• Lee con atención la política de privacidad de cada herramienta
• Comprueba dónde se almacenan los datos y qué leyes aplican
• Prefiere la IA local para información sensible
• Crea una política interna de IA clara
• Prepárate para posibles brechas de datos

🛡️ Seguridad

Las herramientas de IA, como cualquier software, pueden tener vulnerabilidades que la ciberdelincuencia puede explotar, lo que puede provocar brechas, robo de datos o el compromiso de sistemas. Para una ONG, una brecha de seguridad puede exponer datos sensibles, interrumpir la actividad y dañar gravemente la confianza pública.

Cómo reducir este riesgo:

• Elige proveedores de IA con buena seguridad
• Restringe el acceso a datos y herramientas
• Usa cuentas individuales, no cuentas compartidas
• Mantén las herramientas locales actualizadas y seguras
• Revisa y depura las integraciones de IA
• Define políticas de seguridad y uso de la IA
• Crea un plan claro de respuesta ante incidentes

🚨 Cuestiones legales y de cumplimiento normativo

Las herramientas de IA pueden llevar a una ONG a incumplir sin querer leyes relacionadas con la protección de datos, el empleo, la captación de fondos y otros ámbitos. Las ONG pequeñas, que a menudo no cuentan con equipo legal propio, se arriesgan a sanciones, daño reputacional o pérdida de su estatus legal.

Cómo reducir este riesgo:

• Ajusta el uso a la normativa local de protección de datos
• Mantén a personas en las decisiones clave
• Identifica los riesgos legales de tus procesos con IA
• Crea políticas de IA centradas en el cumplimiento normativo
• Documenta las decisiones que toman tus sistemas de IA
• Sigue las novedades legales sobre normativa de IA

🚶 Dependencia excesiva de la IA

Depender demasiado de la IA puede hacer que una ONG pierda capacidades humanas críticas, capacidad de decisión o la habilidad de funcionar sin herramientas de IA. Si un sistema de IA falla, la organización podría enfrentarse a una interrupción importante y volverse menos resiliente.

Cómo reducir este riesgo:

• Usa la IA como ayuda, no como sustituto
• Fomenta una revisión humana reflexiva
• Sigue invirtiendo en las capacidades de tu personal
• Documenta cómo trabajar sin IA
• Prepárate para caídas y fallos de la IA

🕵️ Falta de transparencia

Muchas herramientas de IA funcionan como «cajas negras»: dan resultados sin explicar su razonamiento. Para una ONG, esto puede generar confusión, dañar la confianza y dificultar la justificación de decisiones ante las personas implicadas.

Cómo reducir este riesgo:

• Etiqueta con claridad el contenido público generado por IA
• Sé transparente con tus socios sobre el uso de IA
• Elige herramientas que expliquen cómo funcionan
• Guarda un registro de cómo funciona tu IA
• Evita que la IA tome decisiones de forma opaca
• Asigna una persona responsable de cada sistema de IA

💸 Costes ocultos

Las herramientas de IA pueden parecer baratas o gratuitas al principio, pero pueden traer costes ocultos, como cargos por uso, gastos de integración y el coste de oportunidad del tiempo que el personal dedica a gestionar los sistemas de IA.

Cómo reducir este riesgo:

• Prueba herramientas de terceros antes de crear las tuyas
• Prevé futuras actualizaciones y costes
• Incluye todos los costes en tu presupuesto
• Compara con alternativas sin IA
• Empieza con pruebas de IA limitadas y a pequeña escala
• Haz seguimiento del uso y configura alertas
• Plantéate opciones de código abierto
• Pide descuentos para ONG siempre que puedas
• Evita herramientas que no permitan exportar bien tus datos

📉 Pérdida de empleo e impacto en la plantilla

Las herramientas de IA pueden sustituir o reducir la necesidad de ciertos puestos, lo que podría desplazar a parte del personal. Para una ONG, esto puede dañar la moral, reducir la confianza y contradecir valores como la equidad y el apoyo a la comunidad.

Cómo reducir este riesgo:

• Usa la IA para apoyar al personal, no para sustituirlo
• Comenta tus planes de IA con tu equipo
• Ofrece formación en IA para todo el mundo
• Ayuda al personal a pasar a nuevos puestos
• Nombra a personas del equipo como referentes internos de IA
• Protege los puestos basados en relaciones humanas

Prompts

Puedes usar ChatGPT y herramientas similares (Google Gemini, Claude, etc.) para que te ayuden a detectar posibles riesgos. A veces te dan ideas en las que no habías pensado. Pero comprueba siempre el resultado de la IA: puede incluir recomendaciones irrelevantes o incluso incorrectas.

Recuerda que puedes personalizar los prompts (por ejemplo, indicando si quieres centrarte en temas, riesgos o herramientas concretas) y dar instrucciones adicionales según los resultados que obtengas (por ejemplo, «dame más detalles y ejemplos sobre el riesgo X»).

Verás en amarillo (empezando por «>») las líneas donde debes incluir la información de tu organización. Añade o elimina líneas libremente si crees que eso te va a ayudar a conseguir mejores respuestas para tus necesidades concretas.

1. Identificar los riesgos de IA para una ONG:

Eres un experto en evaluación de riesgos de IA para organizaciones sin fines de lucro.

Necesito tu ayuda para identificar los principales riesgos de IA que nuestra ONG debería tener en cuenta, considerando el contexto que te explico a continuación.

# Nuestro contexto #

> Nuestra misión:
> Nuestros retos:
> Nuestros objetivos:
> Software que usamos:
> Consideraciones éticas:

# Requisitos #

Explícame los 5 principales riesgos de IA que son especialmente relevantes para nuestra organización e incluye la siguiente información para cada uno:

1. Descripción
2. Por qué cada riesgo es especialmente relevante para nuestra organización
3. Posibles consecuencias o impactos de cada riesgo.
4. Recomendaciones para mitigar cada riesgo. 

2. Abordar el sesgo y los errores de la IA con poblaciones vulnerables:

Eres un consultor de ética en IA especializado en proteger a las poblaciones vulnerables a las que atienden las ONG.

Necesito tu ayuda para generar posibles escenarios en los que el sesgo o los errores de la IA podrían afectar negativamente a nuestras personas beneficiarias, y para desarrollar estrategias de mitigación, considerando el contexto que te explico a continuación.

# Nuestro contexto #

> Nuestra misión:
> Nuestros retos:
> Nuestros objetivos:
> Software que usamos:
> Consideraciones éticas:
> Poblaciones vulnerables:

# Requisitos #

1. Genera 5 escenarios en los que el sesgo o los errores de la IA podrían tener un impacto negativo desproporcionado en nuestras personas beneficiarias.
2. Desarrolla estrategias de mitigación concretas para cada escenario, centradas en la equidad, la transparencia y la rendición de cuentas.

3. Evaluar la privacidad de datos y la seguridad de los proveedores de IA:

Eres un experto en privacidad de datos y seguridad, especializado en evaluar proveedores de IA para ONG.

Necesito tu ayuda para elaborar una serie de preguntas que evalúen las prácticas de privacidad de datos y seguridad de proveedores externos de IA, considerando el contexto que te explico a continuación.

# Nuestro contexto #

> Nuestra misión:
> Nuestros retos:
> Nuestros objetivos:
> Software que usamos:
> Consideraciones éticas:

# Requisitos #

Elabora una lista de preguntas que cubran:

1.  Prácticas de almacenamiento de datos.
2.  Controles de acceso a los datos.
3.  Métodos de cifrado.
4.  Cumplimiento de la normativa de privacidad de datos relevante (por ejemplo, el RGPD, la CCPA).
5.  Políticas de conservación y eliminación de datos.
6.  Procedimientos de respuesta ante incidentes y notificación de brechas.
7.  Auditorías y certificaciones de seguridad.

4. Lista de comprobación para revisar contenido generado por IA:

Eres un especialista en ética y control de calidad para contenido generado con IA en ONG.

Necesito tu ayuda para elaborar una lista de comprobación que sirva para revisar el contenido generado por IA en busca de posibles sesgos, imprecisiones y problemas éticos. Ten en cuenta el contexto que te explico a continuación.

# Nuestro contexto #

> Nuestra misión:
> Nuestros retos:
> Nuestros objetivos:
> Software que usamos:
> Consideraciones éticas:

# Requisitos #

Crea una lista de comprobación que incluya directrices para:

1.  Identificar posibles sesgos en el lenguaje y la representación.
2.  Verificar la exactitud y la fiabilidad de la información.
3.  Garantizar el cumplimiento de las directrices éticas y los valores de la organización.
4.  Implementar procesos de revisión y supervisión humana.
5.  Documentar los hallazgos de la revisión y las medidas correctivas.

5. Plan de respuesta ante crisis para incidentes relacionados con la IA:

Eres un experto en gestión de crisis, especializado en incidentes relacionados con la IA en ONG.

Necesito tu ayuda para esbozar un plan de respuesta ante crisis para incidentes relacionados con la IA, como brechas de datos o errores éticos, considerando el contexto que te explico a continuación.

# Nuestro contexto #

> Nuestra misión:
> Nuestros retos:
> Nuestros objetivos:
> Software que usamos:
> Consideraciones éticas:

# Requisitos #

Esboza un plan de respuesta ante crisis que incluya:

1.  Elementos clave para una respuesta rápida.
2.  Procedimientos para una comunicación clara y transparente con las personas implicadas.
3.  Pasos para una corrección eficaz y el control de daños.
4.  Roles y responsabilidades del personal clave.
5.  Protocolos de comunicación interna y externa.
6.  Procesos de revisión y aprendizaje tras el incidente.

Enlaces

• Marco de gobernanza de IA para ONG (un excelente kit de herramientas desarrollado por Microsoft, en inglés)
• Ética de la inteligencia artificial (IA) para ONG (otro buen kit de herramientas, de Nethope, en inglés)
• Herramientas y guías para una IA responsable (no es específico para ONG, pero es útil de todas formas, en inglés)
• Lista de comprobación de IA para juntas directivas y líderes de organizaciones benéficas (preguntas útiles que quizás quieras plantear en tu organización, en inglés)
• Prompts y prácticas responsables para la IA generativa (breve hoja de referencia de Beth Kanter, en inglés)
• AIF360 & FairLearn (herramientas de código abierto para que los equipos de desarrollo mejoren la equidad en los sistemas de IA, en inglés)