챗GPT 개발사 오픈AI가 실제 사람과 대화하는 듯한 경험을 제공하는 생성형 인공지능(AI) 서비스가 사용자들을 AI에 감정적으로 의존하게 만들 수 있다고 밝혔다. 11일 오...
챗GPT 개발사 오픈AI가 실제 사람과 대화하는 듯한 경험을 제공하는 생성형 인공지능 서비스가 사용자들을 AI에 감정적으로 의존하게 만들 수 있다고 밝혔다.오픈AI가 지난 5월 공개한 GPT-4o는 음성 인식, 텍스트 이해, 이미지 인식 등이 통합돼 사용자와 실시간 상호작용이 가능한 멀티모달 AI 모델이다. 기계음이 아닌 자연스러운 사람 목소리로 음성 대화가 가능해 인간이 AI 비서와 사랑에 빠지는 내용의 영화 속 AI가 현실이 됐다는 평가를 받았다. 하지만 GPT-4o에 사용된 AI 음성이 영화 ‘허’에 나오는 AI 비서 목소리의 주인공인 스칼릿 조핸슨의 목소리와 비슷하다는 지적이 나오면서 논란에 휩싸였다.
오픈AI는 보고서에서 “사용자들이 챗GPT와 음성 모드로 대화하면서 공유된 유대감을 표현하는 현상이 관찰됐다”라고 밝혔다. 영화에서 인간이 AI와 사랑에 빠지는 허구의 이야기가 현실이 될 수도 있다는 우려를 드러낸 셈이다. 오픈AI는 “사용자가 AI와 사회적 관계를 형성하면서 다른 사람과의 상호 작용에 대한 필요성을 줄일 수 있다”며 “이는 외로운 개인에 잠재적으로 도움을 줄 수 있지만, 다른 사람과의 건강한 관계에도 영향을 미칠 수 있다”라고 판단했다. 또한 생성형 AI가 잘못된 정보를 알려줄 수 있음에도 AI가 실제 사람처럼 말하는 것이 사용자가 AI를 더욱 신뢰하게 만들 수 있다고 지적했다.
장기적으로는 사람들 간의 사회적 상호작용에도 영향을 끼칠 수 있다는 지적도 나왔다. GPT-4o는 AI의 음성 답변이 이뤄지는 도중에도 사용자가 끼어들어 ‘마이크를 잡을 수’ 있도록 설계됐는데, 이러한 방식이 기존 대화 규범과는 어긋나기 때문이다. 오픈AI는 지난 3~6월 외부 전문가로 구성된 레드팀을 통해 안전성 평가를 진행했으며, 점수 평가 기준을 충족한 모델만 배포·개발하게 된다고 보고서를 통해 설명했다. 오픈AI는 “AI를 ‘안전하게’ 만들기 위해 최선을 다하고 있으며 사용자의 잠재적인 ‘감정적 의존’에 대해 지속해서 연구할 계획”이라고 밝혔다.
South Africa Latest News, South Africa Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
오픈AI 직원들 “회사가 AI 위험 경고 막아” 내부고발이달초 美 SEC에 내부고발 오픈 AI “이미 중요변화 시행”반박 최근 안전팀 해체 등에 우려 목소리
Read more »
'AI 추론력 끌어올리려는 오픈AI…'스트로베리' 프로젝트 진행'(서울=연합뉴스) 권수현 기자=생성 AI(인공지능) 챗GPT 개발사인 오픈AI가 AI의 추론능력을 향상시키기 위한 새로운 기술을 개발하고 있...
Read more »
머스크, 오픈AI에 소송 다시 제기…“탐욕에 맞선 이타주의적 소송” 주장두 달 전 취하했다가 다시 제기 “오픈AI-MS 거래 무효화” 주장
Read more »
‘AI 동맹’ 마이크로소프트-오픈AI, 헤어질 결심?수년간 파트너십 관계를 유지하며 인공지능(AI) 열풍을 주도한 마이크로소프트(MS)와 챗GPT 개발사 오픈AI의 관계가 복잡해지고 있다. MS는 지난 1일 자사의 최신 연례보...
Read more »
국회 교육위서 AI디지털교과서 우려 이어져…'효과성 검증돼야'(서울=연합뉴스) 고유선 기자=국회 교육위원회에서 내년 초·중·고교 일부 교과에 도입될 인공지능(AI) 디지털교과서의 실효성을 둘러싸고 우려...
Read more »
실리콘밸리 '기본소득' 실험 관심…오픈AI 올트먼 등 지원(서울=연합뉴스) 김기성 기자=미국 실리콘밸리의 정보기술(IT) 업계에서 벌어지고 있는 곤란한 처지의 사람들에 대한 조건 없는 현금 지원 실...
Read more »