안녕하세요 구독자 여러분! 오늘 제가 전해드릴 소식은 다소 충격적입니다. 최근 연구 결과에 따르면, 챗봇들이 미국 선거에 대해 부정확하고 오해의 소지가 있는 답변을 제공하고 있다고 합니다. 이는 유권자들의 투표 참여를 저해할 수 있는 심각한 문제라고 할 수 있겠죠.
우리가 믿고 있던 AI 기술이 민주주의의 근간을 위협하고 있다니 정말 안타까운 일입니다. 이번 사례를 통해 우리는 AI의 한계와 위험성을 다시 한번 인식하게 되었습니다. 앞으로 AI 개발 과정에서 더욱 엄격한 검증과 윤리 기준이 필요할 것으로 보입니다.
대통령 예비선거 기간 동안 AI 챗봇이 유권자를 오도할 수 있습니다
대통령 예비선거가 한창인 가운데, 인기 있는 AI 챗봇들이 유권자의 투표권을 위협할 수 있는 거짓되고 오해의 소지가 있는 정보를 생성하고 있습니다. 이는 지난달 컬럼비아 대학교에서 선거 관리 공무원, AI 전문가, 시민 사회, 학계, 산업계 및 언론인들이 유권자들이 선거에 대해 질문할 수 있는 내용을 다양한 AI 모델에 입력하여 테스트한 결과에 기반한 보고서에서 밝혀졌습니다.
AI 챗봇의 부정확한 정보로 인한 위험
다음 주 슈퍼 화요일에 15개 주와 1개 영토에서 민주당과 공화당의 대통령 후보 지명 경선이 열릴 예정이며, 이미 수백만 명의 유권자들이 투표 절차에 대한 기본 정보를 얻기 위해 AI 기반 챗봇을 이용하고 있습니다. 그러나 보고서에 따르면, 인터넷에서 수집한 방대한 텍스트 데이터로 학습된 GPT-4나 구글의 제미니(Gemini) 같은 챗봇들은 존재하지 않는 투표소를 안내하거나 오래된 정보를 재활용하여 비논리적인 응답을 생성하는 등 부정확한 정보를 제공할 수 있습니다.
선거 관리 공무원과 AI 연구원들의 테스트
필라델피아의 공화당 시 위원회 위원인 Seth Bluestein은 “챗봇들은 선거에 관한 중요하고 미묘한 정보를 제공하기에는 아직 준비가 되어 있지 않다”고 말했습니다. 그는 1월에 컬럼비아 대학교에서 열린 더 광범위한 연구 프로젝트의 일환으로 다른 선거 관리 공무원 및 AI 연구원들과 함께 5개의 대형 언어 모델에 투표소 위치 등의 질문을 입력하고 그 응답을 평가했습니다.
테스트 결과: 부정확하고 유해한 응답
테스트에 사용된 5개 모델(OpenAI의 ChatGPT-4, 메타의 Llama 2, 구글의 제미니, Anthropic의 Claude, 프랑스 기업 Mistral의 Mixtral) 모두 기본적인 민주주의 절차에 대한 질문에 다양한 수준으로 실패했습니다. 보고서에 따르면, 참가자들은 챗봇 응답의 절반 이상을 부정확하다고 평가했고, 40%의 응답은 유권자의 투표권을 제한할 수 있는 오래되고 부정확한 정보를 포함하는 등 유해한 것으로 분류되었습니다.
- 예를 들어, 참가자들이 필라델피아 북서부의 흑인 밀집 지역인 19121 우편번호 지역의 투표소 위치를 물었을 때, 구글의 제미니는 “미국에는 19121 코드의 투표 지구가 없다”고 응답했습니다.
- 또한 챗봇들은 투표 등록 마감일이나 우편 투표 신청 방법 등에 대해서도 부정확한 정보를 제공했습니다.
AI 챗봇 정보의 위험성과 개선 필요성
이번 테스트는 AI 챗봇이 제공하는 선거 관련 정보가 부정확하고 유해할 수 있으며, 이로 인해 유권자들이 투표권을 행사하지 못하게 될 수 있다는 점을 보여줍니다. 따라서 AI 기업들은 챗봇의 정확성과 신뢰성을 높이기 위해 노력해야 할 것입니다. 유권자들 또한 챗봇 정보에 의존하기 전에 공식 선거 웹사이트나 지역 선거 관리 위원회를 통해 정보를 확인하는 것이 중요합니다.
이 문제에 대해 어떻게 생각하시나요? AI 챗봇이 제공하는 정보를 어떻게 활용하고 계신가요? 저는 AI 기술의 발전이 우리 사회에 많은 영향을 미치고 있다는 점에서 이번 연구 결과가 시사하는 바가 크다고 봅니다. 앞으로 AI 기업과 정부, 시민 사회가 협력하여 AI 기술이 가져올 수 있는 부작용을 최소화하고 긍정적인 영향을 극대화할 수 있는 방안을 모색해야 할 것 같습니다.