Herramientas de IA: cómo usarlas con seguridad en su organización

Esta guía es para cualquier persona de una organización benéfica pequeña que usa, o piensa usar, herramientas de inteligencia artificial (IA): asistentes de conversación y herramientas de escritura que redactan textos, resumen documentos o responden preguntas. Bien usadas, pueden convertir una noche de escritura en una hora. Usadas sin cuidado, pueden filtrar información privada, inventar datos o poner en boca de su organización palabras que nadie revisó. Al terminar de leer, tendrá un conjunto corto de reglas internas que su equipo puede acordar este mes.

Qué puede salir mal

Hay tres riesgos que más importan para una organización pequeña.

• Privacidad. Muchas herramientas de IA, incluida la mayoría de los asistentes de conversación, funcionan en los servidores del propio proveedor, así que lo que usted escribe se envía a esa empresa. El personal de la Oficina de Tecnología de la Federal Trade Commission (Comisión Federal de Comercio, FTC) ha señalado que los clientes pueden revelar información delicada o confidencial al usar los modelos de IA de una empresa, incluidos documentos internos y datos de sus propios usuarios. Algunas empresas prometen no usar los datos de sus clientes para otros fines, como entrenar sus modelos. El personal de la FTC dice que las empresas que no cumplan esas promesas pueden tener responsabilidad bajo las leyes que aplica la FTC, pero una promesa solo lo protege si la leyó y su configuración coincide con ella.
• Exactitud. Las herramientas de IA pueden escribir con seguridad frases que están mal: una estadística que no existe, una fecha límite vencida, una cita que nadie dijo. En solicitudes de subvención, cartas a donantes y todo lo relacionado con leyes o dinero, un dato equivocado puede costarle caro.
• Confianza. Los donantes, las familias y los aliados confían en la voz de su organización. Una carta de agradecimiento que suena a formulario, o una foto o historia que no es real, puede dañar esa confianza muy rápido.

Buenos usos para un equipo pequeño

• Primeros borradores de boletines, publicaciones en redes sociales, invitaciones a eventos y descripciones de puestos, que luego una persona reescribe.
• Reescrituras en lenguaje sencillo de algo que usted escribió, para hacerlo más corto o más fácil de leer.
• Resúmenes de documentos públicos largos, como las pautas de un financiador, seguidos de leer usted mismo las partes que importan.
• Lluvia de ideas: nombres para una campaña, preguntas para una encuesta a voluntarios, ideas para un taller.
• Borradores de traducción, que una persona con dominio del idioma revisa antes de enviar nada.

Cinco reglas internas

1. Elija la herramienta a propósito. Acuerden qué herramientas usa su organización. Para cada una, lea los términos y la configuración de privacidad: ¿la empresa guarda lo que usted escribe, y puede usarlo para entrenar sus modelos? Desactive lo que no quiera, si se puede. Nuestra guía de tecnología gratuita y con descuento incluye programas de empresas de tecnología para organizaciones sin fines de lucro; revise los términos de IA de cualquiera que use.
2. Deje fuera la información privada. Quite nombres y detalles antes de pegar algo, o no use la herramienta para esa tarea. Nuestra guía sobre privacidad de datos explica qué cuenta como información personal.
3. Una persona revisa cada dato. Compare cada cifra, fecha, nombre, ley y cita con la fuente original antes de usarla. Si no encuentra la fuente, quítelo.
4. Una persona da el visto bueno. Todo lo que sale a nombre de su organización, como una solicitud de subvención, una carta a donantes o una publicación pública, lo lee y lo aprueba una persona responsable.
5. Sea honesto. No use la IA para crear fotos falsas de las personas que atienden, historias inventadas ni testimonios. Si las pautas de un financiador preguntan si usó IA, responda con la verdad.

Póngalo por escrito

Escriba sus reglas internas en una página, y pídale a la junta o a su líder que la apruebe. Incluya:

• qué herramientas están aprobadas, y quién maneja las cuentas;
• qué nunca se debe escribir en ellas;
• quién revisa los datos y quién da el visto bueno;
• qué hacer si alguien pega algo que no debía (avisar a la persona responsable, cambiar cualquier contraseña compartida y seguir sus pasos ante una filtración de datos; nuestra guía de ciberseguridad los explica).

Si quiere un marco más completo, el National Institute of Standards and Technology (Instituto Nacional de Estándares y Tecnología, NIST) publica un AI Risk Management Framework (marco para manejar los riesgos de la IA), publicado el 26 de enero de 2023 y pensado para uso voluntario, para ayudar a las organizaciones a manejar los riesgos de la IA. Sus funciones principales son Govern, Map, Measure y Manage (gobernar, identificar, medir y manejar). NIST agregó un perfil sobre IA generativa el 26 de julio de 2024, para ayudar a identificar los riesgos propios de la IA generativa. Está escrito para organizaciones más grandes, pero las cuatro funciones son una buena manera de pensar: decida quién es responsable, sepa dónde usa la IA, revise cómo funciona y corrija los problemas.

Su lista sobre la IA

• Acordamos qué herramientas de IA usa nuestra organización.
• Leímos los términos y la configuración de privacidad de cada herramienta, y cambiamos lo necesario.
• Todos saben qué nunca se debe escribir en una herramienta de IA.
• Una persona revisa cada dato antes de usarlo.
• Una persona con nombre da el visto bueno a todo lo que se envía a nombre de nuestra organización.
• Nunca usamos la IA para crear fotos, historias ni testimonios falsos.
• Nuestras reglas internas están escritas en una página y aprobadas.
• Sabemos qué hacer si alguien pega información privada por error.

Las herramientas de IA no reemplazan a las personas que conocen a su comunidad. Usadas con unas pocas reglas claras, pueden darles más tiempo para el trabajo que solo ellas pueden hacer. Si quiere ayuda para escribir sus reglas internas, pídasela a una organización miembro con habilidades de tecnología en el Intercambio.