A medida que las universidades se apresuran a generar valor con la inteligencia artificial generativa, entiendo que están dejando de lado un elemento crítico: la seguridad.
Antes de ahondar, repasemos: Qué es la IA Generativa?
La Inteligencia Artificial Generativa (IA Generativa) es un tipo de inteligencia artificial diseñada para crear contenido nuevo y original. Esto incluye textos, imágenes, música, videos, código y otros tipos de datos. A diferencia de los sistemas de IA tradicionales, que se centran principalmente en el análisis de datos existentes, la IA generativa utiliza modelos avanzados, como redes neuronales profundas, para generar contenido que simula o amplía patrones aprendidos a partir de grandes volúmenes de datos.
Ejemplos de IA Generativa:
- Modelos de lenguaje: Como GPT (Generative Pre-trained Transformer), que genera texto coherente y contextual.
- Generación de imágenes: Modelos como DALL·E o Stable Diffusion, que crean imágenes a partir de descripciones textuales.
- Música y sonido: Algoritmos que componen música o imitan voces humanas.
- Video y animación: Creación de videos, escenarios en 3D o animaciones basadas en instrucciones.
- Diseño de productos: Prototipos o diseño gráfico generado automáticamente.
Aplicación en la Educación: Generación de contenidos educativos personalizados.
Pasemos ahora al aspecto: seguridad.
En un estudio reciente realizado por el Instituto de Valor Empresarial de IBM entre directivos de alto nivel que tienen la responsabilidad de tomar decisiones estratégicas, se encontró que solo el 24 % de los proyectos actuales de IA generativa incluyen un componente de seguridad, a pesar de que el 82 % de los encuestados afirma que una IA segura y confiable es esencial para el éxito.
De hecho, casi el 70 % indica que la innovación tiene prioridad sobre la seguridad.
Esta percepción de que hay que elegir entre ambos contrasta con las opiniones de ellos mismos, respecto de los riesgos generalizados de la IA generativa.
Las vulnerabilidades de seguridad están entre sus mayores preocupaciones. Veamos cuales son:
- 56% – Mayor potencial de interrupciones en las prestaciones (discontinuidad en los LMS).
- 52% – Pérdida de pensamiento creativo y resolución de problemas.
- 51% – Riesgos impredecibles y nuevas vulnerabilidades de seguridad como resultado de la IA generativa.
- 47% – Incertidumbre sobre dónde y cuánto invertir para que sea usada en escalas.
Estas inquietudes están adecuadamente fundamentadas.
Los ciberdelincuentes ya se están beneficiando tanto de la IA generativa como de la tradicional. Técnicas de phishing, audios falsos, filtraciones de datos causadas por el uso imprudente de herramientas, entre otras vulnerabilidades.
A medida que las soluciones y prácticas educativas impulsadas por IA se vuelven más capaces y ubicuas, pueden ser tan vulnerables como valiosas, especialmente si la seguridad no es una prioridad desde el principio.
Finalmente, debemos contestarnos: cómo conjugar innovación con seguridad en el uso de la IA generativa?
Conjugar innovación con seguridad en el uso de la IA generativa implica encontrar un equilibrio que permita aprovechar al máximo las oportunidades que ofrece la tecnología sin comprometer la integridad, confianza y sostenibilidad de los sistemas y datos. Algunas estrategias para lograrlo:
1. Incorporar la seguridad desde el diseño (Security by Design).
- Integrar medidas de seguridad en cada etapa del desarrollo y uso de soluciones de IA generativa. Esto incluye la protección de datos, la transparencia de los modelos y el diseño de sistemas resilientes a posibles ataques.
2. Implementar normas éticas y marcos de gobernanza.
- Crear políticas claras que guíen el desarrollo y uso de la IA generativa, asegurando que sea ética, segura y alineada con los valores organizacionales.
3. Capacitar.
- Ofrecer formación constante a la comunidad universitaria en el uso responsable de herramientas de IA generativa.
4. Equilibrar velocidad y seguridad.
- Priorizar proyectos que generen valor inmediato pero que también sean seguros, evitando comprometer la seguridad por el avanzar más rápido.
- Establecer métricas que midan tanto la innovación como la robustez de los sistemas/aplicaciones implementadas.
5. Adoptar tecnologías complementarias.
- Usar herramientas de monitoreo continuo basadas en IA para identificar actividades sospechosas en tiempo real.
Conjugar innovación y seguridad no es una tarea fácil, pero es esencial para construir y usar sistemas de IA generativa que no solo sean efectivos, sino también confiables y sustentables en el largo plazo.
Mg. en Ing. Carlos Gerardo Said
