ChatGPT가 금지됐던 이유
2023년 3월 20일, ChatGPT 금지령의 발단이 된 사건이 일어났습니다. ChatGPT에서 일부 사용자의 채팅기록이 다른 사용자에게 표시되는 오류가 발생한 것입니다. 이 오류로 9시간 동안 ChatGPT 플러스(유료 계정)를 사용한 회원 중 1.2%의 이름, 이메일 주소, 청구 주소, 신용카드의 마지막 4자리와 유효기간 등 개인 정보가 노출됐습니다.
영국 가디언지에서는 이 사건을 토대로 일부 사람들이 다른 사용자의 채팅 기록이나 제목을 볼 수 있는 버그가 발견되었다고 주장하며 ChatGPT에 대한 개인정보 유출 위험성을 했습니다. 계속해서 ChatGPT가 학습을 위해 수집한 데이터에 문제가 있다는 추측의 근거가 이번 사건을 계기로 수면에 드러나게 된 것이죠. 이에 대해 OpenAI는 "신뢰를 회복하기 위해 부지런히 노력하겠다"는 입장을 내며 즉각적으로 사과를 공표했어요. 하지만 이 사건을 계기로 이탈리아 규제당국은 ChatGPT가 개인정보를 무단으로 사용한다고 판단해 2023년 4월 4일, 이탈리아 데이터보호기관의 주도 하에 ChatGPT의 임시 접속 금지 조치를 결정했습니다.
이탈리아 데이터보호기관은 “ChatGPT의 알고리즘 훈련을 위한 대규모 개인정보 수집 및 처리를 정당화할 법적 근거가 없으며 연령인증시스템이 없어 미성년자가 부적절한 대답을 들을 우려가 있다”고 지적했습니다. 즉, 이탈리아 규제당국이 ChatGPT의 이용을 금지한 이유는
- 학습에 이용된 자료들의 불분명한 출처와 자료들을 재가공하는 과정에서 개인정보가 유출될 수 있다는 점
- 미성년자에게 부적절한 내용을 전달할 수 있다는 점
두 가지로 나눌 수 있습니다. 이번주 뉴스레터에서는 이 두 가지에 대해 다뤄보도록 하겠습니다.
🚫 불분명한 출처와 개인정보 유출 가능성
전자의 불분명한 출처의 자료수집과 재가공과정에서의 개인정보 유출의 가능성은 EU의 GDPR(General Data Protection Regulation)을 위반합니다.
OpenAI는 20일 내 안전 조치 방안을 마련하지 않을 시 GDPR의 위반에 대한 과징금으로 최대 2000만 유로(약 287억원)의 벌금 또는 연 매출의 4%에 해당하는 벌금을 내야 했습니다😲
이탈리아의 강경 대응에 OpenAI는 ChatGPT에 프라이버시 보호 설정을 추가하여 사용자가 만 18세 이상인지를 묻는 팝업 창과 시크릿 모드를 통해 사용자들이 채팅 내역 기록을 해제하여 OpenAI가 데이터를 수집하지 못하도록 하는 방편을 마련했습니다.
🚫 연령 제한
연령 제한 시스템이 없는 것 또한 GDPR 제8조, "아동에 관한 개인 데이터의 처리에 대해서는 제17조(2)에 따른 정보 제공 및 의견 청취를 위해 적절한 조치를 취하며, 만일 아동이 16세 미만인 경우 그 아동의 법정 대리인의 동의를 받아야 한다. 회원국은 이렇게 하는데 필요한 모든 적절한 조치를 제공한다”를 위반해요. 어린이가 부적절한 대답을 들을 우려가 있다는 지적에 OpenAI는 13세에서 17세 사이 사용자는 부모 또는 보호자의 동의 하에 ChatGPT를 이용할 수 있도록 하였습니다.
이용 연령층을 고려한 조치들은 계속 개발 중에 있어요. 예를 들어, OpenAI는 “이미지 생성 도구에 이용자들이 아동성착취물 업로드를 시도하면 해당 이용자를 차단하고, 즉각 미국 실종학대아동방지센터에 신고하는 등 노력하고 있다”고 설명했습니다. 그리고 증오, 괴롭힘, 폭력, 성인용 콘텐츠를 걸러내는 시스템의 정확도를 높여 향후 더 많은 이용자가 서비스를 누릴 수 있도록 도구들을 강화하고 있습니다.
이러한 OpenAI의 노력 끝에❗️이탈리아 규제 당국은 "연령 검증과 더불어 이용자가 데이터를 알고리즘 훈련에 사용되는 것을 거부할 수 있도록 한 것, 이탈리아인들을 위한 정보 캠페인 등 오픈AI가 이행한 노력을 환영한다"고 말하며 4월 28일, 약 한 달 만에 ChatGPT 사용 잠정 차단 조치를 해제했어요. 이탈리아의 강경한 대응책이 빅테크 기업의 개선된 기술책을 이끌어 낸 사례이죠.
우리나라는 어떤 조치를 취했을까?
이용자 정보 유출 사건에는 국내 피해자들도 있었는데요, 3월 20일 오후 5시부터 3월 21일 오전 2시 사이 ChatGPT 플러스에 접속한 이들 중 687명의 성명, 이메일, 결제지, 신용카드 번호 4자리와 만료일 등이 다른 이용자에게 노출되었습니다. 우리나라는 어떤 입장을 보였을까요?🤔
개인정보위원회는 OpenAI에게 '신고 의무 위반'에 대해 과태로 360만원을 부과하고, 개인정보처리시스템을 자체적으로 점검하고 재발방지대책을 수립할 것을 권고하는 것으로 사건은 종결되었습니다. 다음은 이러한 판결의 근거입니다.
이탈리아의 ChatGPT를 향한 선전포고와는 상당히 구분되죠? 약한 대응 강도에 실망할 수 있을거라 생각합니다. 하지만 해당 사건은 앞으로 글로벌 빅테크 기업이 제공하는 서비스에 한국 이용자가 있을 시 국내 보호법이 적용됨을 명확히 했다는 점에서 의의가 있어요.
이 사건을 계기로 개인정보보호법을 강화하고, 국내 법제도의 정비를 탄탄하게 마련하여 앞으로 다가올 신기술의 피해에 선제 대응할 수 있는 우리나라가 되길 바라는 마음입니다. 총 37개 조문으로 이루어진 한국의 ‘인공지능법안’은 총 85개 조문으로 이루어진 유럽연합의 ‘인공지능법안’과 비교하면 고위험 AI 분야를 선정하지 않고, 사전 적합성 평가를 의무화하지 않는 등 인공지능에 대한 규제보다는 산업 육성에 더욱 초점을 맞추고 있어요.
규제에도 초점을 맞추어 ChatGPT 등 인공지능으로 인한 피해가 발생할 시 책임과 처벌의 주체와 그 강도와 관련해서도 명확한 기준이 제시되어야 인공지능으로 인한 피해를 최소화할 수 있습니다. 물론 사용자 측면에서도 대부분의 빅테크 기업들이 영리추구 회사임을 인지하고 입력하는 정보에 주의를 기울이는 노력도 필요해요🦾
🙌 딥 다이브 소식
Humans of daiv. #7 김수민
인생에서 완전히 낯선 환경에 놓여본 적이 있나요? 새로운 사람, 새로운 환경과 연을 맺는다는 것은 두렵기도 하지만 한편으로 삶에 또 다른 활력을 불어넣습니다.
낯선 땅은 특히 막막한 순간에 그 진가를 발휘합니다. 원래 걸어오던 길을 벗어나 또 다른 도전을 할 수 있는 용기를 쥐여줍니다. 교환학생 경험을 살려 AI가 아닌 새로운 꿈을 꾸고 있는 김수민을 만나 근황을 물었습니다.