“En teoría, podría utilizarse para consultar datos confidenciales si no se han bloqueado los privilegios de acceso. Podríamos ver a empleados pidiendo ver escalas salariales, actividad de fusiones y adquisiciones o documentos que contengan credenciales, que luego podrían filtrarse o venderse.”

Otra preocupación se centra en las herramientas de IA que podrían utilizarse para vigilar al personal, vulnerando potencialmente su privacidad. La función Recall de Microsoft sostiene que “tus instantáneas son tuyas; permanecen localmente en tu PC” y “siempre tienes el control con una privacidad en la que puedes confiar”.

Sin embargo, “no parece que pase mucho tiempo antes de que esta tecnología pueda utilizarse para vigilar a los empleados”, expresa Elcock.

Autocensura

La IA generativa plantea varios riesgos potenciales, pero hay medidas que las empresas y los empleados individuales pueden tomar para mejorar la privacidad y la seguridad. En primer lugar, no incluyas información confidencial en una pregunta de una herramienta de acceso público como ChatGPT o Gemini de Google, advierte Lisa Avvocato, vicepresidenta de marketing y comunidad de la empresa de datos Sama.

Cuando elabores una propuesta, sé genérico para evitar compartir demasiado. “Pregunta: ‘Escribe una plantilla de propuesta de gasto presupuestario’, no ‘Aquí tienes mi presupuesto, escribe una propuesta de gasto para un proyecto delicado'”, aclara. “Utiliza la IA como primer borrador y, a continuación, añade la información confidencial que necesites incluir”.

Si la utilizas para investigar, evita problemas como los que se han visto con los resúmenes de IA de Google validando lo que proporciona, indica Avvocato. “Pídele que proporcione referencias y enlaces a sus fuentes. Si le pides a la IA que escriba código, tienes que revisarlo, en lugar de dar por hecho que está listo”.

La propia Microsoft ha declarado que Copilot debe configurarse correctamente y que debe aplicarse el “mínimo privilegio”, es decir, el concepto de que los usuarios solamente deben tener acceso a la información que necesitan. Este es “un punto crucial”, afirma Robinson, de Prism Infosec. “Las organizaciones deben sentar las bases de estos sistemas y no limitarse a confiar en la tecnología y asumir que todo irá bien”.

También hay que tener en cuenta que ChatGPT utiliza los datos que compartes para entrenar sus modelos, a menos que lo desactives en la configuración o uses la versión para empresas.

Lista de garantías

Las empresas que integran la IA generativa en sus productos declaran que hacen todo lo posible para proteger la seguridad y la privacidad. Microsoft se esfuerza por destacar las consideraciones de seguridad y privacidad en su producto Recall y la posibilidad de controlar la función en Ajustes > Privacidad y seguridad > Recall e instantáneas.

Google afirma que la IA generativa en Workspace “no cambia nuestras protecciones de privacidad fundamentales para dar a los usuarios la posibilidad de elegir y controlar sus datos”, y estipula que la información no se utiliza con fines publicitarios.

OpenAI reitera cómo mantiene la seguridad y la privacidad en sus productos, mientras que las versiones para empresas están disponibles con controles adicionales. “Queremos que nuestros modelos de IA aprendan sobre el mundo, no sobre individuos privados, y tomamos medidas para proteger los datos y la privacidad de las personas”, según comentó un portavoz de OpenAI a WIRED.

OpenAI dice que ofrece formas de controlar cómo se utilizan los datos, incluidas herramientas de autoservicio para acceder, exportar y eliminar información personal, así como la posibilidad de optar por no utilizar contenidos para mejorar sus modelos. ChatGPT Team, ChatGPT Enterprise y su API no se entrenan con datos o conversaciones, y sus modelos no aprenden del uso por defecto, según la empresa.

En cualquier caso, parece que tu compañera de trabajo con IA ha llegado para quedarse. A medida que estos sistemas se vuelvan más sofisticados y omnipresentes en el lugar de trabajo, los riesgos no harán sino intensificarse, alerta Woollven. “Ya estamos viendo la aparición de IA multimodal como GPT-4o, que puede analizar y generar imágenes, audio y video. Así que ahora no son solo los datos basados en texto los que las empresas deben preocuparse por salvaguardar.”

Teniendo esto en cuenta, las personas (y las empresas) deben mentalizarse para tratar la IA como cualquier otro servicio de terceros, dice Woollven. “No compartas nada que no quieras que se difunda públicamente”.

Artículo publicado originalmente en WIRED. Adaptado por Mauricio Serfatty Godoy.