GPT es una evolución técnica increíble. No cabe duda. Cada vez más gente es consciente de cómo se puede utilizar esta tecnología, pero también hay muchos riesgos de seguridad de GPT que no se han abordado y que parecen esconderse bajo la alfombra.
Y no estamos hablando sólo de la versión pública de ChatGPT de OpenAI, que tiene su propia serie de controversias. En cambio, nos centramos más en las vulnerabilidades del uso de GPT en las empresas, programándolo con las características específicas de cada compañía. Estos detalles a menudo incluyen información privada o sensible que no debería estar disponible para personas ajenas a la organización.
Entonces, ¿cómo entran aquí en juego los riesgos de seguridad de GPT? Y lo que es más importante, ¿cómo podemos evitarlos?
En este artículo, trataremos los principales problemas de seguridad que plantea el uso de GPT, así como los más específicos a la hora de resumir reuniones utilizando la misma tecnología (y seguridad). Con tantas cosas digitales y tantos hackeos y exploits, la gente es cada vez más cautelosa sobre quién tiene acceso a sus datos, y con razón. Al final de este artículo, deberías ser capaz de aliviar la mayoría de las preocupaciones de tus clientes con respecto a la seguridad de sus datos, así como de emplear mejores prácticas en el trabajo al integrarte con tecnologías como GPT.
Así que vamos a ello. Prepárate para una buena y larga mirada a las entrañas de GPT.
@tldv.io Escrito por ChatGPT #inception #chatgpt #ai #openai #meeting #corporate
♬ sonido original - tldv.io - AI Meeting Recorder
Riesgos generales de seguridad con GPT
Protección de datos
Gran parte de la reciente huelga de guionistas y actores que paralizó Hollywood se debió a esto. Querían asegurarse de que su imagen -o su estilo de escritura- no pudiera ser introducida en una máquina de inteligencia artificial que los sustituyera. Si la GPT avanza hasta el punto de poder emular con precisión el estilo de un escritor o el rostro de un actor, puede que ese escritor o actor ya no sea necesario. ¿Has visto alguna vez Black Mirror?
También hay una demanda colectiva en curso contra OpenAI y otros creadores de IA por infringir los derechos de autor. Se ha descrito como "piratería de software a una escala sin precedentes". Y es difícil negarlo. Pero ChatGPT no es el único en la línea de fuego. Microsoft también es culpable, ya que su GitHub Copilot está acusado de copiar código con licencia que requiere reconocimiento cuando se reutiliza, algo que no se hace.
Se trata de un inquietante presagio del estereotipado futuro distópico en el que la IA sustituye a casi todas las industrias. Empieza copiando de los creativos, sin darles crédito alguno, y luego emulando y replicando su estilo, su contenido y su trabajo. Una vez que se dispone de un sistema de IA capaz de escribir como George RR Martin en pocos segundos, ¿para qué esperar a Los vientos del invierno?
Evidentemente, hay matices. Puede decirse que la IA nunca creará como un ser humano, aunque probablemente lo haría mejor que D. B. Weiss y David Benioff intentando terminar la historia de Martin como en Juego de tronos.
Lo que realmente significa es que los creativos especializados pueden estar más solicitados en comparación con el material genérico de IA producido en masa que ya se está bombeando por todo Internet. Pase lo que pase en el futuro, no se puede negar que se trata de una preocupación clave -y posiblemente la más importante- para la seguridad de las GPT.
Almacenamiento centralizado
En enero de 2024, ChatGPT recibió una media de 54 millones de nuevos visitantes cada día. Eso son muchos datos de personas que proteger. Y el problema con GPT es que todos tus datos se almacenan en los servidores centralizados de OpenAI. Si se ven comprometidos, también lo estarán los datos de todo el mundo.
Facebook, LinkedIn, Yahoo y prácticamente todos los demás grandes nombres de la tecnología han sufrido enormes ataques en los últimos años, con filtraciones de datos de miles de millones de personas al mercado negro. Una de las grandes preocupaciones en torno a GPT es que se produzca un ataque similar que filtre información privada de los usuarios, como su nombre, correo electrónico, mensajes y conversaciones, así como información de pago, ubicación aproximada y dirección IP.
Como ha demostrado la historia, no se trata de un suceso improbable. De hecho, los hackeos de este tipo son bastante comunes. Cuando un único punto de fallo es responsable de la seguridad y protección de los datos de cientos de millones de personas, ese único punto se convierte en un objetivo de lujo.
El almacenamiento centralizado de datos es una gran preocupación para todas las grandes bases de datos. Sin embargo, podría decirse que el problema de privacidad más controvertido de GPT es el hecho de que los Transformadores Generativos Preentrenados se entrenan con grandes cantidades de datos, extraídos de Internet sin el permiso de sus legítimos propietarios. Entradas de blogs, vídeos, libros y películas se introducen en los GPT para que aprendan inteligencia conversacional, pero no se reconoce el mérito de este trabajo ni se compensa a nadie por ello.
Información errónea
Los modelos de GPT pueden utilizarse potencialmente para generar contenidos que se consideren desinformación. Esto es especialmente cierto en el contexto de las empresas que integran la GPT en su servicio de atención al cliente. Si un cliente se pone en contacto y mantiene una conversación con tu IA, querrás que le proporcione información correcta sobre tu empresa y/o producto.
GPT genera respuestas basadas en patrones aprendidos. Esto significa que sus respuestas son tan buenas como su programación. Si hay un error humano al introducir los datos, puede aparecer en la respuesta, causando confusión e incluso rechazando a los clientes. A GPT no le importa lo que es correcto, sólo lo que le han programado.
5 GPT Riesgos de seguridad para los resúmenes de reuniones
Entonces, ¿qué pasa con los riesgos de seguridad de GPT que son más comunes para las empresas que integran resúmenes de reuniones de GPT con su tecnología? Echemos un vistazo.
1. Privacidad y confidencialidad de los datos
Cuando grabas reuniones online, es muy posible que captures información empresarial sensible o datos personales de varios participantes. Esto es especialmente cierto en el caso de las llamadas internas.
Evidentemente, si las grabaciones de las reuniones no están bien protegidas, existe el riesgo de revelar información confidencial sin querer. Las transcripciones también son vulnerables si se almacenan en un lugar inseguro o se comparten libremente con terceros.
La mejor manera de contrarrestar posibles fugas de datos es cifrar las grabaciones y transcripciones tanto en tránsito como en reposo. Otro buen consejo sería restringir el acceso a las grabaciones y transcripciones de las reuniones al personal estrictamente autorizado. Con tl;dv, las reuniones, resúmenes y opiniones de los clientes se almacenan en la biblioteca de tl;dv , a la que sólo puede acceder su equipo.
2. Uso indebido de contenidos grabados
Si la grabación o transcripción de una reunión cae en las manos equivocadas, puede ser manipulada para tergiversar lo que se dijo. Esto puede acarrear posibles consecuencias legales, por no mencionar el devastador impacto que podría tener en su reputación.
Con tl;dv, sólo podrán acceder a la grabación y transcripción de su reunión quienes hayan asistido a ella, o los compañeros de equipo que tengan acceso a la biblioteca de su empresa tl;dv . Puedes compartir la llamada externamente a través de toda una serie de integraciones, pero mientras tengas el original, cualquier intento de tergiversar la discusión puede ser sofocado al instante.
3. Transcripciones inexactas o sesgadas
Los modelos de GPT pueden introducir sesgos o imprecisiones al transcribir las grabaciones de las reuniones, sobre todo si el modelo no se ha entrenado con datos diversos o representativos. Esto podría afectar a la toma de decisiones o dar lugar a malentendidos entre los participantes.
Por suerte para ti, tl;dv cuenta con un avanzado sistema de reconocimiento de locutores y es capaz de captar diferentes acentos y frases coloquiales. Entiende el contexto como ninguna otra grabadora de reuniones y puede diferenciar con rapidez y precisión quién está hablando en cada momento.
Esto evita confusiones y permite que sus transcripciones se erijan como pilares de la verdad.
4. Cumplimiento y normativa
Dependiendo del sector y la jurisdicción, lo más probable es que haya normas que regulen la grabación y el almacenamiento del contenido de las reuniones. Esto es especialmente cierto si se trata de datos sensibles o información personal identificable. Es importante incluir sistemas de gestión de preferencias que permitan salvaguardar correctamente los datos de los clientes y proteger su información personal. El incumplimiento de esta normativa podría acarrear sanciones o acciones legales, algo con lo que nadie quiere lidiar.
Para contrarrestarlo, tendrás que asegurarte de que tu equipo está familiarizado con el cumplimiento del GDPR y con el panorama normativo en constante evolución. Esto incluye directrices específicas del sector que pueden variar drásticamente en función de la región y el ámbito de trabajo.
O si no quieres todo ese lío, puedes dejar que tl;dv lo haga por ti... tl;dv cumple la GDPR para todos los usuarios, y el equipo mantiene un registro interno de las actividades de procesamiento de datos para saber exactamente cómo se procesan los datos personales. Nos tomamos la seguridad muy en serio.
5. Políticas de conservación y supresión
Lo ideal es que su empresa establezca políticas claras sobre la conservación y eliminación de las grabaciones y transcripciones de las reuniones. Así se minimiza el riesgo de acceso no autorizado o uso indebido. No querrás que las grabaciones de reuniones se acumulen durante años y años. Cuanto más tiempo se conserven, más probabilidades habrá de que se produzca una fuga de datos.
El cliente también tiene derecho a solicitar la supresión de sus datos, algo que debe respetarse. Debe existir un plan claro para el caso de que alguna vez se haga esta petición. No es fácil escudriñar miles de vídeos para encontrar los que buscas. A no ser, claro está, que utilices tl;dv. Si no, es tan sencillo que ya podrías haberlo hecho para cuando termines de leer este párrafo.
Basta con realizar una búsqueda por palabra clave para encontrar inmediatamente todas las grabaciones que la mencionan. Al instante. No sólo localiza la grabación específica, sino que enlaza con la marca de tiempo del momento exacto de la transcripción en que la conversación pasa a la palabra clave. Haz clic ahí para saltar inmediatamente a la grabación de la videollamada, como se muestra a continuación.
En el plan gratuito de tl;dv, tus vídeos se eliminarán automáticamente al cabo de 6 meses. En el plan Pro, tendrás que implementar tus propios flujos de trabajo de retención y eliminación. Pero esto no es tan difícil como parece si lo haces con tiempo.
Para más información sobre cuánto tiempo puedes (y debes) almacenar las grabaciones de videollamadas, consulta nuestro artículo sobre este tema.
BONUS Risk: GPT te ahorra demasiado tiempo
Aunque la tecnología GPT entraña algunos riesgos muy serios, nunca se insistirá lo suficiente en su utilidad. Con la inteligencia artificial basada en GPT de tl;dv, puede automatizar sus flujos de trabajo para que todos los datos recibidos de las llamadas de ventas o de atención al cliente se canalicen directamente a su CRM. No tendrá que mover ni un dedo.
Se acabaron las cargas manuales. Todo lo que tienes que hacer es configurar una integración de dos segundos con el CRM de tu elección. También se integra con tu calendario, aplicación de correo electrónico y plataformas de trabajo como Slack, Notion y Trello.
Y esto no sólo transporta la grabación de la llamada y algún resumen básico de IA, tampoco. Esto le permite generar informes recurrentes sobre palabras clave específicas mencionadas en TODAS sus llamadas de un solo golpe. Está revolucionando por completo la forma de recopilar datos de nuestras llamadas.
Te ahorrará tantas horas que no sabrás qué hacer contigo mismo. De hecho, podrás emplear algunas de esas horas en ser productivo en lugar de asistir a reuniones...
Qué riesgo más loco.
Los problemas de seguridad de la GPT pueden resolverse con seguridad
En esencia, hay formas de sortear los problemas de seguridad que plantea la GPT si eres inteligente. Para empezar, puedes utilizar una plataforma segura que se ocupe de la mayor parte del estrés por ti, como tl;dv. Además, implantar un marco sólido de gestión de riesgos de IA puede proporcionarte una orientación completa para mitigar estos retos de forma eficaz.
Empieza gratis con grabaciones y transcripciones de llamadas ilimitadas. Literalmente, no hay nada que perder.
