Inteligencia Artificial y protección de datos: ¿cuáles son los retos para las empresas al usarla?

La tecnología, y en particular la inteligencia artificial, puede ser una gran herramienta y nos puede dar grandes soluciones, sobre todo en temas en los que no profundizamos.

Sin embargo, el problema con su uso es que no reparamos en las implicaciones y los nuevos riesgos.

Las “nuevas” inteligencias artificiales técnicamente ya no almacenan la información de manera estructurada como nosotros la alimentamos, ni como se la dimos ni como nosotros la conocíamos.

Así lo detalló Pablo Corona Fraga, Presidente del Consejo Directivo de la Asociación de Internet MX, durante su participación en el 6° Congreso Compliance 2024, organizado por Thomson Reuters.

Acompañado de Marina San Martín Rebolloso, Ex Comisionada del INAI Especialista en Transparencia y Privacidad, habló sobre los riesgos para las compañías en la plática I.A., Protección de Datos y Seguridad en entornos Empresariales.

Principales retos

Comentó que uno de los retos que tienen las empresa es encontrar modelos que utilicen inteligencia artificial explicativa y que permita la rectificación, cancelación y oposición a tratamiento de datos personales.

“Hoy, ninguno de los modelos gratuitos que están por ahí en el mercado lo hace. Hay algunos, pero son más caros, más complicados y son menos maduros que esos que ya conocemos. Entonces es un reto que enfrentarán las empresas”, comentó.

Otro de los retos que tiene que ver con qué alimentamos a esa inteligencia artificial generativa.

“Los avisos de privacidad son las políticas, términos y condiciones que aceptamos cuando entramos a una de estas aplicaciones gratuitas. Si alguien ha leído las letras chiquitas del Chat GPT dice que todos los datos que le alimentes podrán utilizarlos para el reentrenamiento de su sistema. Quiere decir que si yo le alimenté con datos confidenciales de mi organización que pueden ser secretos de negocio, finanzas y “la receta secreta” de mi empresa, los puede utilizar”, explicó.

Al aceptar su uso estoy autorizando que use los datos del negocio para entrenar modelos que harían perder mi ventaja competitiva como organización.

También lee:
¿Cómo sacarle provecho a los datos usados para IA?

“Y eso sería un problema grave en materia de propiedad intelectual, pues eso le da valor y apalancamiento a una empresa”, añadió.

Entonces, el establecimiento de reglas sobre qué inteligencia artificial utilizar o qué herramientas de inteligencia artificial usar es otro punto importante a determinar.

¿Por qué se niegan a usar la IA?

Por su parte, la experta en transparencia señaló que, a veces, existen resistencias sobre el uso de la IA, pero priomordialmente porque la gente no está acostumbrada a usarla.

Piensan que soluciona todo o que con dos o tres herramientas ya tiene enormes informes y pasan por alto que requiere de muchos elementos informáticos, indicó.

Además, no son herramientas que tomen las decisiones.

Por si te lo perdiste:
Inteligencia Artificial Generativa (GAI) y sus implicaciones en los tratados de comercio internacional

Los expertos reflexionaron también sobre el tema del sesgo.

“Hay mecanismos que traen sesgos por quien los elabora y también porque la inteligencia artificial busca información y se basa de las fuentes a disposición, a veces simplemente nosotros mismos”, detalló Corona.

Hallar el valor competitivo del negocio

Otro de los riesgos es la discriminación.

Pusieron como ejemplo la solicitud de créditos bancarios.

“A veces las empresas usan chabots para atender a los clientes y el programa les niega el crédito y no hay nadie detrás que esté al pendiente para conocer la negativa”, añadió.

Y en ese tipo de casos es donde entra en juego la responsabilidad ética del uso de la IA.

San Martín aclaró que el reto “está en encontrar un mecanismo que nos dé seguridad y confianza de poder utilizar esa inteligencia artificial para fines benéficos para el negocio”.

No es solo una herramienta que debe alinearse a los objetivos de la empresa, sino al mismo tiempo ayudar a encontrar el valor competitivo del negocio y de las personas.

Te puede interesar:
Sustentabilidad, escasez de talento y nuevos modelos de negocio en la cadena de suministro

Detalló que la empresa que aprenda a usar lo mejor de ambos mundos, tanto el poder analítico de la IA, como los juicios y razonamientos humanos a partir del conocimiento, tendrán una ventaja competitiva en el mundo laboral a corto plazo.