GPT es una evolución técnica increíble. No cabe duda de ello. Cada vez más gente es consciente de las formas en que se puede utilizar esta tecnología, pero también hay muchos riesgos de seguridad de la GPT que no se han abordado y que parecen esconderse bajo la alfombra.
Y no estamos hablando sólo de la versión pública de ChatGPT de OpenAI, que tiene su propia serie de controversias. En cambio, nos centramos más en las vulnerabilidades de utilizar GPT en las empresas, programándolo con los detalles específicos de una empresa concreta. Estas especificidades suelen incluir información privada o sensible que no debería estar realmente a disposición de personas ajenas a tu organización.
Entonces, ¿cómo entran aquí en juego los riesgos de seguridad de la GPT? Y lo que es más importante, ¿cómo podemos evitarlos?
En este artículo, trataremos los principales problemas de seguridad cuando se utiliza GPT, y los más especializados cuando se trata de resumir reuniones utilizando la misma tecnología (y seguridad). Con tantas cosas digitales y tantos hackeos y exploits, la gente es cada vez más precavida sobre quién tiene acceso a sus datos, y con razón. Al final de este artículo, deberías ser capaz de aliviar la mayoría de las preocupaciones de tus clientes respecto a la seguridad de sus datos, así como de emplear mejores prácticas en el trabajo al integrarte con tecnologías como GPT.
Así que vamos a ello. Prepárate para una buena y larga mirada a las entrañas de GPT.
@tldv.io Escrito por ChatGPT #inception #chatgpt #ai #openai #meeting #corporate
♬ sonido original - tldv.io - AI Meeting Recorder
Riesgos generales de seguridad con GPT
Protección de datos
Gran parte de la reciente huelga de guionistas y actores que paralizó Hollywood se debió a esto. Querían asegurarse de que su parecido -o estilo de escritura- no pudiera ser introducido en una máquina de inteligencia artificial y sustituirlos de hecho. Si la GPT avanza hasta el punto de poder emular con precisión el estilo de un escritor o el rostro de un actor, entonces ese escritor o actor podría dejar de ser necesario. ¿Has visto alguna vez Black Mirror?
También hay una demanda colectiva en curso contra OpenAI y otros creadores de IA por infringir los derechos de autor. Se ha descrito como "piratería informática a una escala sin precedentes". Y es difícil negarlo. Pero ChatGPT no es el único en la línea de fuego. Microsoft también es culpable, ya que su GitHub Copilot está acusado de copiar código con licencia que requiere reconocimiento cuando se reutiliza, algo que no se hace.
Se trata de un inquietante presagio del estereotipado futuro distópico en el que la IA sustituye a casi todas las industrias. Empieza copiando de los creativos, sin darles crédito alguno, y luego emulando y replicando su estilo, contenido y trabajo. Una vez que tengas un sistema de IA que pueda escribir como George RR Martin en unos segundos, ¿para qué vas a esperar a "Los vientos del invierno"?
Evidentemente, aquí hay matices. Se puede argumentar que la IA nunca creará como un humano, aunque probablemente lo haría mejor que D. B. Weiss y David Benioff intentando terminar la historia de Martin al estilo de Juego de Tronos.
Lo que realmente significa es que los creativos especializados pueden estar más solicitados que el material genérico de IA producido en masa que ya se está bombeando por todo Internet. Pase lo que pase en el futuro, no se puede negar que ésta es una preocupación clave -y posiblemente la más importante- para la seguridad de la GPT.
Almacenamiento centralizado
En enero de 2024, ChatGPT recibió una media de 54 millones de nuevos visitantes cada día. Eso son muchos datos de personas que proteger. Y el problema de GPT es que todos tus datos se almacenan en los servidores centralizados de OpenAI. Si se ven comprometidos, también lo estarán los datos de todos.
Facebook, LinkedIn, Yahoo y prácticamente cualquier otro gran nombre tecnológico bajo el sol han sufrido enormes exploits en los últimos años, con filtraciones de miles de millones de datos de personas al mercado negro. Una de las grandes preocupaciones sobre la GPT es un hackeo o exploit similar que filtre información privada de la gente, incluyendo nombre, correo electrónico, mensajes y conversaciones, así como información de pago, ubicación aproximada y dirección IP.
Como ha demostrado la historia, no se trata de un suceso improbable. De hecho, los hackeos de este tipo son bastante frecuentes. Cuando un único punto de fallo es responsable de la seguridad y protección de los datos de cientos de millones de personas, ese único punto se convierte en un objetivo de lujo.
El almacenamiento centralizado de datos es una gran preocupación para todas las grandes bases de datos. Sin embargo, podría decirse que el problema de privacidad más controvertido de GPT es el hecho de que los Transformadores Generativos Preentrenados se entrenan con grandes cantidades de datos, extraídos de Internet sin el permiso de sus legítimos propietarios. Entradas de blogs, vídeos, libros y películas se introducen en GPT para que pueda aprender inteligencia conversacional, pero no se reconoce a ninguna persona por este trabajo ni se la compensa por ello.
Información errónea
Los modelos de GPT pueden utilizarse potencialmente para generar contenido que se considere desinformación. Esto es especialmente cierto en el contexto de las empresas que integran la GPT en su servicio de atención al cliente. Si un cliente se pone en contacto y mantiene una conversación con tu IA, quieres que le proporcione información correcta sobre tu empresa y/o producto.
GPT genera respuestas basadas en patrones aprendidos. Eso significa que sus respuestas son tan buenas como su programación. Si hay un error humano al introducir los datos, puede aparecer en la respuesta, causando confusión e incluso rechazando a los clientes. A GPT no le importa lo que es correcto, sólo aquello con lo que fue programado.
5 Riesgos de seguridad GPT para los resúmenes de reuniones
Entonces, ¿qué pasa con los riesgos de seguridad de GPT que son más comunes para las empresas que integran resúmenes de reuniones de GPT con su tecnología? Echemos un vistazo.
1. Privacidad y confidencialidad de los datos
Cuando grabas reuniones online, es muy posible que captures información empresarial sensible o datos personales de varios participantes. Esto es especialmente cierto en el caso de las llamadas internas.
Obviamente, existe el riesgo de revelar involuntariamente información confidencial si las grabaciones de las reuniones no están lo suficientemente protegidas. Las transcripciones también son vulnerables si se almacenan en un lugar inseguro o se comparten libremente con terceros.
La mejor forma de contrarrestar posibles fugas de datos es encriptar las grabaciones y transcripciones tanto en tránsito como en reposo. Otro buen consejo sería restringir el acceso a las grabaciones y transcripciones de las reuniones a personal estrictamente autorizado. Con tl;dv, tus reuniones, resúmenes y opiniones de los clientes se almacenan en la biblioteca de tl;dv, a la que sólo puede acceder tu equipo.
2. Uso indebido del contenido grabado
Si la grabación o transcripción de tu reunión cae en las manos equivocadas, puede ser manipulada para tergiversar lo que se dijo. Esto puede acarrear posibles consecuencias legales, por no mencionar el devastador impacto que podría tener en tu reputación.
Con tl;dv, sólo podrán acceder a la grabación y transcripción de tu reunión quienes hayan asistido a ella, o los compañeros de equipo que tengan acceso a la biblioteca tl;dv de tu empresa. Puedes compartir la llamada externamente a través de toda una serie de integraciones, pero mientras tengas el original, cualquier intento de tergiversar la discusión podrá ser sofocado al instante.
3. Transcripciones inexactas o sesgadas
Los modelos de GPT pueden introducir sesgos o imprecisiones al transcribir las grabaciones de las reuniones, sobre todo si el modelo no se entrenó con datos diversos o representativos. Esto podría afectar a la toma de decisiones o provocar malentendidos entre los participantes.
Por suerte para ti, tl;dv dispone de reconocimiento de locutor de última generación y puede captar diferentes acentos y frases coloquiales. Entiende el contexto como ninguna otra grabadora de reuniones y puede diferenciar con rapidez y precisión quién está hablando en cada momento.
Esto evita confusiones y permite que tus transcripciones se erijan como pilares de la verdad.
4. Cumplimiento y cuestiones normativas
Según el sector y la jurisdicción, lo más probable es que haya normas que regulen la grabación y el almacenamiento del contenido de las reuniones. Esto es especialmente cierto si se trata de datos sensibles o información personal identificable. Es importante incluir sistemas de gestión de preferencias que te permitan salvaguardar correctamente los datos de los clientes y proteger su información personal. El incumplimiento de estas normativas podría acarrear sanciones o acciones legales, algo con lo que nadie quiere lidiar.
Para contrarrestarlo, tendrás que asegurarte de que tu equipo está familiarizado con el cumplimiento del GDPR y con el panorama normativo en constante evolución. Esto incluye directrices específicas del sector que pueden variar drásticamente según la región y el ámbito de trabajo.
O si no quieres todo ese lío, puedes dejar que tl;dv se ocupe de ello por ti... tl;dv cumple la GDPR para todos los usuarios, y el equipo mantiene un registro interno de las actividades de procesamiento de datos para saber exactamente cómo se procesan los datos personales. Nos tomamos la seguridad muy en serio.
5. Políticas de conservación y eliminación
Lo ideal es que tu empresa establezca políticas claras sobre la conservación y eliminación de las grabaciones y transcripciones de las reuniones. Esto minimiza el riesgo de acceso no autorizado o uso indebido. No quieres que las grabaciones de reuniones se acumulen durante años y años. Cuanto más tiempo las conserves, mayores serán las probabilidades de que se produzca una fuga de datos en algún momento.
Tu cliente también tiene derecho a solicitar que se eliminen sus datos, y esto debe respetarse. Debe existir un plan claro para el caso de que alguna vez se haga esta petición. No es fácil cribar entre miles de vídeos para encontrar los que buscas. Eso, por supuesto, a menos que utilices tl;dv. De lo contrario, es tan sencillo que ya podrías haberlo hecho para cuando termines de leer este párrafo.
Sólo tienes que buscar por palabra clave y encontrarás inmediatamente todas las grabaciones que mencionen dicha palabra clave. Al instante. No sólo localiza la grabación concreta, sino que enlaza con la marca de tiempo del momento exacto de la transcripción en que la discusión pasa a la palabra clave. Haz clic ahí para saltar inmediatamente a la grabación de la videollamada, como se muestra a continuación.
En el plan gratuito de tl;dv, tus vídeos se eliminarán automáticamente al cabo de 6 meses. En el plan Pro, tendrás que implementar tus propios flujos de trabajo de retención y eliminación. Pero esto no es tan difícil como parece si lo haces con tiempo.
Para más información sobre cuánto tiempo puedes (y debes) almacenar las grabaciones de videollamadas, ¡consulta nuestro artículo sobre exactamente eso!
BONUS Riesgo: La GPT te ahorra demasiado tiempo
Aunque existen algunos riesgos muy serios en lo que se refiere a la tecnología GPT, no se puede exagerar su utilidad. Con la IA potenciada por GPT de tl;dv, puedes automatizar tus flujos de trabajo para que todos los datos recibidos de las llamadas de ventas o de atención al cliente se canalicen directamente a tu CRM. No necesitas mover un dedo.
Se acabó la carga manual. Todo lo que tienes que hacer es configurar una integración de dos segundos con el CRM de tu elección. También se integra con tu calendario, aplicación de correo electrónico y plataformas de trabajo como Slack, Notion y Trello.
Y esto no sólo transporta la grabación de la llamada y algún resumen básico de IA, tampoco. Esto te permite generar informes recurrentes sobre palabras clave específicas mencionadas en TODAS tus llamadas de un solo golpe. Está revolucionando por completo la forma de recopilar datos de nuestras llamadas.
Te ahorrará tantas horas que no sabrás qué hacer contigo mismo. De hecho, podrás emplear algunas de esas horas en ser productivo en lugar de asistir a reuniones...
Qué riesgo más descabellado.
Los problemas de seguridad de la GPT pueden resolverse con seguridad
En esencia, hay formas de sortear los problemas de seguridad que plantea la GPT si eres inteligente. Para empezar, puedes utilizar una plataforma segura que se ocupe de la mayor parte del estrés por ti, como tl;dv. Además, implantar un marco sólido de gestión de riesgos de IA puede proporcionarte una orientación completa para mitigar estos retos de forma eficaz.
Empieza gratis con grabaciones y transcripciones de llamadas ilimitadas. Literalmente, no hay nada que perder.
