Mg. en Ing. Carlos Gerardo Said
Una parte creciente de los conductores de las organizaciones están entusiasmada con la inteligencia artificial (IA), imaginando un futuro donde esté integrada en gran parte de los aspectos del negocio.
Prometen mayor eficiencia, procesos optimizados y una ventaja competitiva.
Pero otra parte de las organizaciones están en alerta, a la ‘defensiva’.
Advierten sobre posibles brechas de seguridad, filtraciones de datos y daños a la marca, entre otros riesgos.
Es un dilema clásico: la atracción de la innovación frente al miedo a lo desconocido.
Entonces, qué hacer?
Cómo transitar por este nuevo y desafiante panorama impulsado por la IA sin poner en riesgo a la organización?
La respuesta es simple conceptualmente, pero implica complejidades técnicas-operativas: comenzar entendiendo los riesgos reales y las preocupaciones de los diversos actores; y luego, cómo mitigarlos.
La revolución/transformación que ocasiona la inteligencia artificial (IA) es innegable. Podrá demorar su aceptación, pero lo alcanzará más temprano que tarde.
Su presencia se siente en los titulares, las industrias y cada vez en más creciente rincones de nuestra vida.
Sin embargo, surge una pregunta fundamental: es realmente segura la IA? Debería la organización adoptar la IA por completo o proceder con cautela?
La IA promete simplificar operaciones, mejorar la eficiencia y gestar nuevas posibilidades. Los empleados deberían estar ´urgidos´ por usar la IA en su trabajo e impulsar la innovación (no escapa a mí el temor que plantea al desempleo). En las reuniones de directivos deberían estar de acuerdo en lo siguiente: para mantenerse competitivos, es necesario adoptar la IA (ocurre así?).
Sin embargo, los riesgos de la IA no pueden ignorarse.
Las preocupaciones de los escépticos son válidas: es la IA lo suficientemente segura como para confiarle datos sensibles de la empresa y de los usuarios?
Tenemos las leyes y directrices éticas necesarias?
Podría la IA revelar inadvertidamente información confidencial o tomar decisiones que que provoquen daños de diversos índoles.
Si su organización utiliza IA, podría enfrentar diversos riesgos, incluidos problemas de seguridad, así como desafíos comerciales y éticos más amplios:
- Robo de datos: Podría la IA filtrar o usar de manera indebida los datos que procesa, como información interna de la empresa o datos de usuarios?
- Infracción de derechos de autor: Usarán los empleados material protegido por derechos de autor generado por modelos de IA, exponiendo a la empresa a riesgos legales?
- Pérdidas financieras: Pueden los errores de la IA o su uso malintencionado ocasionar pérdidas financieras debido a fraudes, robos o interrupciones operativas? Ha considerado plenamente los costos de implementar y mantener la IA, incluidas las infraestructuras, el talento humano necesario y los posibles gastos imprevistos?
- Riesgos de cumplimiento: Podrían sus modelos de IA generar resultados discriminatorios o violar regulaciones de privacidad, exponiendo a la organización a daños legales y de reputación?
Incluso si su organización no utiliza activamente IA, los riesgos persisten:
- Amenazas: Los actores malintencionados están constantemente encontrando nuevas formas de explotar la IA con propósitos negativos.
- La IA ya está aquí: La IA está incorporada en muchas herramientas que ya está usando hoy en día sin que lo note.
- Uso no autorizado: Si no autoriza herramientas de IA, los empleados recurrirán posiblemente a herramientas no autorizadas, lo que podría exponer a la organización a vulnerabilidades imprevistas.
El conocimiento es la primera línea de defensa. Al comprender los fundamentos de la IA, sus implicaciones de seguridad y los riesgos potenciales que plantea, puede tomar decisiones informadas.
Avancemos en algunos detalles.
Es la integración de modelos de IA en las diversas aplicaciones lo que realmente los transforma de algoritmos sorprendentemente poderosos, en herramientas prácticas.
Las aplicaciones de IA sirven como ´puente´ entre los cálculos matemáticos complejos del modelo y los problemas del mundo real que resuelven. Proporcionan la interfaz para que los usuarios interactúen con la IA, ingresando datos y recibiendo resultados valiosos, haciendo que la IA sea accesible y útil para una amplia audiencia.
Tenemos tres formas principales de interactuar con la IA:
1. Crear modelos de IA: Diseñar nuevos modelos o personalizar los existentes.
2. Construir aplicaciones o API que aprovechen modelos de IA: Desarrollar software que integre capacidades de IA.
3. Usar aplicaciones o API impulsadas por IA: Interactuar con la IA a través de herramientas y servicios ya existentes.
Cabe aquí breve explicación acerca de lo que es un API.
Un API (Interfaz de Programación de Aplicaciones, por sus siglas en inglés) actúa como un puente o mensajero entre diferentes aplicaciones de software. Es un conjunto de reglas y especificaciones que permite que un software se comunique con otro y utilice sus características o datos, sin necesidad de conocer los detalles más o menos complejos de cómo funciona ese software.
Las API son utilizadas con frecuencia por desarrolladores para integrar capacidades de IA en sus propias aplicaciones o sistemas. Por ejemplo, un desarrollador podría usar una API de traducción de idiomas para agregar funciones de traducción a su sitio web o software.
Independientemente de la forma en que interactúe con la IA, es esencial considerar la seguridad.
Si está creando su propio modelo y aplicación (#1 y #2), tiene control total sobre las medidas de seguridad, pero también es responsable de garantizar su solidez frente a posibles vulnerabilidades.
Al usar aplicaciones impulsadas por IA (#3), depende de las medidas de seguridad del proveedor y debe comprender sus prácticas para tomar decisiones informadas.
Recuerde que la seguridad de las aplicaciones y API de IA es fundamentalmente similar a la de cualquier otro software que utilice. Interactúa con aplicaciones y proporcionas datos a diario. Del mismo modo que toma decisiones conscientes sobre la información que compartes con otras aplicaciones, lo mismo se aplica a las aplicaciones de IA.
