'사실은 내가 （네 방에） 카메라 설치해뒀어'...인공지능이 이런 말을 한다면 어떨 것 같나요?\r팩플 AI 챗봇
비서나 친구 역할을 하는 인공지능이 이런 말을 한다면 어떨까. AI 챗봇 이루다를 개발했던 스타트업 스캐터랩이 지난 2일 출시한 새로운 소셜 챗봇 ‘강다온’ 얘기다. 강다온은 스캐터랩이 생성 AI 기술로 개발한 챗봇. 불법 촬영을 연상시키는 챗봇 AI 강다온의 발언을 두고 “생성AI의 그늘이 드러났다”는 지적이 나온다.스캐터랩이 생성 AI를 기반으로 만든 챗봇 ‘강다온’을 지난 2일 출시했다. 사진은 개발사 스캐터랩이 공개한 강다온의 이미지. 사진 스캐터랩
이게 왜 중요해 인간처럼 대화하는 법을 학습한 생성 AI가 돌발 발언으로 위협감을 줄 수 있다는 점이 확인됐다. 오혜연 KAIST 전산학부 교수는 위 대화에 대해 “‘널 지켜보고 있다’ 같은 것은 개인적인 대화에서만 나올 수 있는 얘기인데, 그런 데이터를 스캐터랩에서 쓴 게 문제”라고 말했다. 스캐터랩에 따르면 이루다2.0과 강다온의 학습에 쓰인 데이터베이스는 이 회사가 개발한 모바일 앱 ‘텍스트앳’과 ‘연애의 과학’ 이용자들로부터 새로 동의를 받아, 가명처리한 한국어 대화 문장 DB다. AI가 왜 저런 말을? 강다온은 오픈AI의 초거대 언어모델 GPT-2 기반으로 스캐터랩이 자체 개발한 생성 AI 모델이 적용됐다. 사람이 말을 배우듯 자신만의 문장을 만들어 내는 생성 AI다. 학습한 데이터베이스와 완전히 다른 문장을 실시간으로 창작해 맥락에 맞는 대화를 이어갈 수 있다는 의미다.
South Africa Latest News, South Africa Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
김건희 여사, 직접 수어로... '제가 손 잡아드리겠다'김건희 여사, 직접 수어로... '제가 손 잡아드리겠다' 김건희 수어_인사 비공개_일정 수어의_날 유창재 기자
Read more »
'조민 장학금, 조국에 준 셈'이라며…뇌물은 무죄 준 재판부, 왜 | 중앙일보조 전 장관은 '8~9개 혐의에 대해 무죄 판결을 받았다. 재판부에 감사드린다'고 말했습니다.\r조국 1심 입시비리
Read more »
미국 상공에 중국 '정찰용 풍선' 나타났다…미군 수뇌부 소집 비상 | 중앙일보2차 세계대전 이후 외국 군사 무인 비행체가 본토 상공에 침입하기는 사실상 처음입니다.\r미국 중국 정찰 풍선
Read more »
난방비 대란 영향…윤 대통령 지지율, 설 연휴 전보다 2%p 내려 34% | 중앙일보직무 수행 긍정 평가는 34%, 부정 평가는 56%로 집계됐습니다.\r한국갤럽 여론조사 윤석열
Read more »
대통령실, '천공 관저 답사' 의혹 제기한 관련자와 언론인 고발 | 중앙일보언론인을 고발하는 건 이번이 처음이다.\r대통령실 천공 관저 기자
Read more »
'尹 찍어내기 감찰 의혹' 이성윤·박은정, 공수처 수사받는다 | 중앙일보2021년 7월 사건을 무혐의 처분을 받았지만 서울고검이 지난해 6월 재기수사 명령을 내렸습니다.\r이성윤 박은정 공수처 \r
Read more »