회의 노트용 ChatGPT가 좋은가요? 제가 알아본 결과는 다음과 같습니다.

이제 실제 위험에 대해 이야기해 보겠습니다.

녹음 모드와 같은 도구는 간단해 보입니다. 앱에 조용히 앉아서 말한 내용을 필사하고 깔끔한 형태로 변환해 줍니다. 하지만 잠시만 지나면 단순히 메모를 캡처하는 것이 아니라는 사실을 알게 됩니다. 단순히 단어뿐만 아니라 어조, 감정, 의도, 대화의 형태까지 캡처하고 있다는 사실을 깨닫게 됩니다.

인간의 감정, 통찰력, '본질'을 채집하는 것... 다소 과하게 들리지만 이것이 우리를 인간답게 만드는 요소입니다.

비공식적인 내용을 녹음하다가 나중에 중요한 내용으로 바뀌거나 한 명 이상의 목소리가 포함된 생각을 적는 경우, 그 데이터가 어디로 가는지 항상 명확하지는 않습니다. 편의성을 위해 시작한 일이 금방 추적하거나 관리하기 어려운 데이터로 바뀔 수 있습니다.

다른 미팅 도구도 민감한 대화를 저장할 수 있지만, 대부분은 해당 사용 사례를 위해 만들어졌습니다. 이러한 도구는 무슨 일이 일어나고 있는지, 누가 액세스할 수 있는지, 무엇이 저장되는지에 대해 더 명확하게 알려줍니다.

인공지능에 반대하는 입장을 취하려는 것이 아닙니다. 저는 그 분야에서 일하고 있습니다. 제가 근무하는 회사는 AI를 사용하는 회의 도우미를 만들고 있으며, 물론 우리도 데이터를 저장합니다. 하지만 저희는 그 목적을 위해 설계합니다. 동의는 경험의 일부이며, 인프라는 명확성과 사용자 제어를 중심으로 구축됩니다. (참고로, 시스템을 설정할 때 각주를 달았습니다... Chat GPT에는 사용자에게 동의를 받아야 한다는 것을 상기시키는 메시지가 없습니다).

AI 분야에서 일하기 전에는 기자로 일했습니다. 국내 및 해외 매체에 글을 썼고 수년간 법적 미묘한 차이를 탐색하는 데 시간을 보냈습니다. 여기에는 명예훼손, 저작자 표시 오류, 무단 데이터 접근과 같은 문제가 포함되었습니다. 그래서 대화를 녹음하고 그 결과물을 녹취록으로 저장하며 명확한 감사 추적이나 증거를 제공하지 않는 무언가를 볼 때면 그것이 무엇을 의미하는지 의문이 들기 시작합니다.

예를 들어, 회의 요약에서 인용문을 가져왔는데 실제로 그런 일이 있었는지 확인할 방법이 없는 경우, 여전히 인용문에 포함되나요? 누군가가 모르는 사이에 기록되고 그 데이터가 계속 남아 있다면 누가 책임을 져야 할까요? 그리고 그 콘텐츠가 다른 사람을 위해 결과물을 생성하는 시스템에 공급된다면, 그것은 단지 기능일까요, 아니면 다른 무엇인가일까요?

인공지능이 내가 말했지만 잘못 들었다고 말한 것에 대해 소송을 당할 수 있나요? 말을 했는지 안 했는지 증명할 방법이 없는 경우 명예훼손이 되나요? 이를 뒷받침할 영상이나 2차 확인이 없다면 어떻게 되나요?

이는 단순한 가상이 아닙니다. 우리가 발을 딛고 있는 현실처럼 보이기 시작했습니다.