3월 29일 (금) 오전 2:38

logo

  • home
  • head
  • itnews
  • product
  • mobile
  • game
  • benchmark
  • analysis
  • blog

개봉 2023.11.22. / 등급: 12세 관람가 / 장르: 드라마 / 국가: 대한민국 감독 : 김성수 출연 : 황정민, 정우...
노량: 죽음의 바다 / 개봉 2023.12. / 장르: 액션, 드라마 / 국가: 대한민국 감독 : 김한민 출연 : 김윤석, ...

게임메카 김미희 기자 2018.06.07 15:30



▲ 비매너 채팅 제재 시스템에 대해 소개하는 제프 카플란 디렉터 영상 메시지 (영상제공: 블리자드)

블리자드는 지난 5월에 ‘오버워치’에 특이한 기술을 넣었다. 게임에서 부적절한 채팅을 잡아내는 일명 ‘욕설 잡는 인공지능’이다. 정확히 이야기하면 욕설과 함께 다른 유저에게 부적절한 메시지를 보내는 유저를 바로 찾아내서 제재하는 것이다. 기존에도 유저 신고를 받은 후 이를 사람이 확인해 처리했으나 인공지능을 쓰면 처리 시간을 줄일 수 있다. 유저 입장에서는 게임을 하며 불쾌한 말을 들을 걱정이 줄어드는 셈이다.

현재 지원하는 언어는 영어와 한국어다. 그렇다면 한국어를 배워 온 ‘욕설 잡는 인공지능’은 두 달 동안 어떠한 성과를 냈을까? 블리자드는 6월 7일 진행된 프레젠테이션을 통해 그 결과를 공개했다. ‘오버워치’ 스캇 머서 총괄 디자이너는 인공지능 도입 후 채팅 제재에 대한 주요 수치를 공개했다. 인공지능이 없었던 올해 3월과 이를 도입한 5월 수치를 서로 비교한 것이다.

스캇 머서 총괄 디자이너는 “우선 채팅을 할 수 없게 막는 ‘침묵 제재’는 651%가 늘었고, 일시 및 영구 계정 정지는 1,471% 증가했다”라며 “보시다시피 상당히 많은 유저를 제재했지만 놀랍게도 오제재율(잘못 제재한 비율)은 0%이며, 반복 제재도 6.12%에서 2.46%로 감소했다”라고 설명했다. 부적절한 채팅을 찾아내는 인공지능 덕분에 문제되는 내용을 좀 더 빠르게 잡아낼 수 있었다는 것이 그의 의견이다. 이를 통해 ‘오버워치’ 제작진이 불쾌한 채팅을 제대로 잡고 있다는 믿음을 주는 것이 목표라고 덧붙였다.


▲ '오버워치' 스캇 머서 총괄 디자이너 (사진제공: 블리자드)

다른 유저와 부딪칠 일이 많은 게임을 해본 유저들이라면 잘 알겠지만 욕을 하고자 마음을 먹은 사람은 온갖 기상천외한 방법을 찾아낸다. 모음 ‘l’ 대신에 숫자 1을 넣거나, 욕설을 단 한 마디도 넣지 않고 상대를 공격하는 말을 전하기도 한다. 그 반대로 ‘18년 동안’이라는 말처럼 평범한 말도 욕설로 잘못 알고 ***으로 처리되는 경우도 있다.

즉, 유저 채팅에서 부적절한 말을 추적하는 인공지능을 만드는 것은 생각보다 복잡하고, 다양한 상황을 고려해야 한다. 단순히 특정 단어를 사용하지 못하게 막는 것으로는 해결되지 않으며, 말을 하는 사람의 전체적인 뉘앙스를 살펴야 한다. 따라서 ‘오버워치’ 제작진 역시 한국어로 비매너 채팅을 찾아내는 AI를 만들며 많은 고민과 어려움이 있었을 것이라 생각한다.

이에 대해 스캇 머서 총괄 디자이너는 “가장 어려웠던 점은 언어와 문화에 따라 나쁜 말을 하는 방식이 다양하다는 것이었다. 그래서 이를 연구하는데 많은 시간을 들였다. 한국어를 비롯해 각 언어 당 1,000개 이상, 수천 가지에 달하는 케이스가 필요했고, 부적절한 말을 찾아내는 알고리즘을 구성하는 것이 어려웠다. 하지만 덕분에 이러한 좋은 결과가 나올 수 있었다고 생각한다”라고 말했다.

‘오버워치’를 즐기는 유저들은 키보드도 많이 쓰지만 말로 이야기를 주고 받는 음성 채팅도 종종 사용한다. 음성 채팅에서도 다른 유저들에게 불쾌한 말을 하는 게이머들이 있다. 특히 목소리를 통해 말하는 사람이 남성인지, 여성인지 알 수 있기 때문에 불필요한 충돌이 일어난 경우도 있다. 이에 대해 ‘오버워치’ 제작진은 어떻게 생각하고 있을까? 

스캇 머서 총괄 디자이너는 “음성 채팅 제재에 대해서는 내부에서 논의하고 있지만 아직 이렇게 하자고 결정한 것이 없다. 남성과 여성이 같이 게임을 할 때 상대적으로 여성 유저들이 불이익을 받고 있다는 점은 인지하고 있고, 남성처럼 목소리를 바꿔주는 옵션에 대해서도 생각해본 적 있지만 아직 공식으로 이야기할 단계는 아니다. 여성 플레이어에 대한 배려는 큰 이슈라고 생각하고, 어떻게 하면 개선할 수 있을지 계속 고민 중이다”라고 말했다.






List of Articles
제목 날짜
AMD 젠 아키텍처 분석 (프론트엔드, OP캐시, CCX, 인피니티 패브릭) 6 2017.07.23
오버워치에서 경험치를 두배로 획득하세요! (6월 9일~12일) 1 2018.06.09
로스트아크 마지막 테스트에서 악마가 될 징조를 보았다 1 2018.06.09
'오버워치' AI에 한국어로 욕 1,000개 이상 넣어봤다 1 2018.06.09
"무차입 공매도는 없다"는 금융위의 깜깜이 행정 논란 4 2018.06.08
허익범 특별검사 "드루킹은 정치사건…공정히 하겠다" 1 2018.06.07
'삼바' 분식회계 논란… 어떤 결정 나든 후유증 클 듯 1 2018.06.07
檢, 삼성서비스 前 대표 영장 재청구 "조세법위반 추가" 1 2018.06.07
「삼성-신세계-CJ-대한항공」 등 키워드 검색조작 ‘극심’…‘순삭-광탈’ 현상 4 2018.06.07
사회) 이국종이 꿈꾸던 닥터헬기…"긴급" 인천서 서산까지 23분 1 2018.06.07
“BTS로 영어 밖 세상 눈 떴다”... 美 ‘아미’의 세계 1 2018.06.06
지구촌 BTS 돌풍) 회사 부장님의 방탄소년단 댄스 커버 3 2018.06.06
MBC 스트레이트, 네이버 검색어 조작 의혹 추적 3 2018.06.04
[생방송] 배틀그라운드 BJ멸망전 시즌3 결승전 1 2018.06.03
남자의 로망, 아우디 2018 R8 Coupe 2018.06.03
홍진영의 배틀그라운드 실력 1 2018.06.02
OGN 배틀그라운드 PSS FINALS 영상 (2018 HOT6 PSS) 2 2018.06.02
배그 신맵 "사녹" 테스트 플레이 영상 1 2018.06.02
부산시 배틀그라운드 프로팀 "GC부산 자이언츠" 1 2018.06.02
배틀그라운드, 4x4km 신규맵 '사녹' 4차 테스트 실시 1 2018.06.01
배틀그라운드 정식서비스(1.0 버전) 14차 업데이트 내역 1 2018.06.01
BTS (방탄소년단) 'FAKE LOVE' Dance Practice 1 2018.06.01
공식적인 글로벌 1위 아이돌에 BTS 등극, 세계 재패 2 2018.05.29
ASL 대망의 결승전, 정윤종 vs 장윤철 [K팝 광장 생방송] 1 2018.05.27
로스트아크가 뻔한 핵앤슬래쉬가 아닌 5가지 이유 1 2018.05.27
펍지, 에픽게임즈에 소송…"배틀그라운드 표절" 3 2018.05.27
檢, '노조와해 의혹' 삼성전자 압수수색…윗선수사 착수 1 2018.05.27
‘그것이 알고싶다’ 故 염호석 시신탈취, 삼성의 분노유발 첩보전 3 2018.05.27
방탄소년단 "BTS - I NEED U" Dance Practice 1 2018.05.23
[단독] 드루킹 “송인배 접촉” 지난주 경찰에 진술 … 경찰청장은 “몰랐다” 1 2018.05.23
개발자 업데이트 | 오버워치 감사제 2018 1 2018.05.22
[단독] 드루킹, 김경수 의원실 6∼8회 출입했다 1 2018.05.22
[생]배틀그라운드 아프리카BJ 멸망전 시즌3 Day2 1 2018.05.22
[안내] 05/16 리니지M 신규 상품 안내 1 2018.05.21
[음악감상] 방탄소년단 빌보드 : BTS - FAKE LOVE 4 2018.05.21
배틀그라운드 모바일 최저 사양 및 지원 불가 단말기 1 2018.05.21
배그 모바일, 진행중인 킹갓제네럴 이벤트 2018.05.21
콘솔 주간 판매량, '갓 오브 워' 경쟁작 없네 1 2018.05.17
배그 모바일, 스마트폰에서도 치킨 맛있닭! 1 2018.05.17
사회) 이대목동병원 또 의료사고 발생 1 2018.05.17
[ASL 시즌5] 조일장 vs 변현제 3/4위전 -LIVE- 1 2018.05.13
유머) AMD CPU를 사지 말아야 하는 이유 1 2018.05.13
배그 모바일을 PC에서? 텐센트 공식 에뮬레이터 공개 1 2018.05.13
부루마불 이긴 '모두의마블', 판결문을 통해 살펴본 승리 이유 1 2018.05.13
[음악감상] Sia - Chandelier / Alive -live- 2 2018.05.12
박영선 의원, “적자 내던 삼성바이오로직스 상장 위해 규정 변경한 배경 철저히 밝혀야” 3 2018.05.12
금감원 “삼성증권, 과거에도 위조주식 거래 가능성 있다” 1 2018.05.11
사회) 세월호 유족 조롱에 이어 어버이연합 등 보수단체도 삼성이 지원 6 2018.05.07
신경민 "아웃링크가 원칙, 세상 일 원칙으로만 가는 건 아니다" 1 2018.05.06
화제의 배틀그라운드 모바일 TV 광고 영상 1 2018.05.06
[생방송] 배틀그라운드 APL S1 결승전 1 2018.05.05
[오버워치 리그] 스테이지 3 파이널 경우의 수 (업데이트) 1 2018.05.05
오버워치 컨텐더스 코리아 시즌1 결승전 - 5월 12일 1 2018.05.05
[배틀그라운드] 알려진 이슈 사항 1 2018.05.05
액토즈 스타즈, 배틀그라운드 양대 리그 결승 진출 1 2018.05.04
신임 금감원장에 윤석헌 혁신위원장…"삼성문제 당연히 봐야" 1 2018.05.04
갓 오브 워, GOTY로 가는 마지막 '한 조각' 찾았다 1 2018.05.01
섀도우 오브 더 툼레이더 한국어판 9월 발매 1 2018.05.01
LG그램 - 인텔배 PUBG 서바이벌 시리즈 유니버시티 개막 1 2018.04.23
[생]배틀그라운드 APL 시즌1 36강 B/C조 Day3 1 2018.04.23
사회) 세월호 '맞불집회' 삼성이 돈 지원 6 2018.04.23
[음악감상] 동방신기(TVXQ) - 운명, 평행선 1 2018.04.21
오버워치 컨텐더스 코리아 시즌1 - 최신 경기 일정 (4/20~4/22) 1 2018.04.20
[생]배틀그라운드 APL 시즌1 36강 A/C조 Day2 1 2018.04.20
SKT T1, 24일부터 배틀그라운드 선수 상반기 공개 모집 1 2018.04.20
[e스포츠, 지상파 진출 움직임 ‘솔솔’] 저변확대로 가는 윤활 통로 물꼬 트나? 1 2018.04.20
OGN 배틀그라운드 2018 HOT6 PSS 시즌1 생방송 1 2018.04.15
온라인 게임 순위, "황제" 배틀 그라운드의 적수가 없다 3 2018.04.15
잘 키운 온라인 하나, 열 모바일 안 부럽다 1 2018.04.15
거대 로봇과 괴물의 치열한 전쟁! 영화 '퍼시픽 림' 속 과학 이야기 1 2018.04.15
‘배틀그라운드 PSS 시즌1’ 15일 개막 1 2018.04.14
배틀그라운드 이벤트 모드 - 워모드 추가 1 2018.04.14
외국인 투자자, 한국 주식시장 떠난다 2 2018.04.11
게임판 '슈스케' 나온다…5月 '배틀그라운드 오디션' 출격 1 2018.04.10
2018년 오버워치 월드컵 안내 1 2018.04.10
[검은사막 모바일] 4월 진행 중인 이벤트 안내 1 2018.04.07
[업데이트 공지] 리니지M 4월 4일 패치 노트 1 2018.04.07
Hardwell LIVE at Ultra Music Festival Miami 2018 1 2018.04.07
사회) '주사제 나눠쓰기' 25년 관행, 이대목동병원 신생아 참사 불렀다 4 2018.04.07
배틀그라운드) 이벤트 모드 - 테킬라 선라이즈 1 2018.04.06
오큘러스 촉감 구현한 컨트롤러 특허 출원 1 2018.04.06
‘오버워치’ 제작진, AI로 비매너 유저 잡아낸다 1 2018.04.06
오버워치 디지털 만화: “응징의 날” 1 2018.04.06
사회) 검찰, 장자연 사건 9년 만에 재조사한다 1 2018.04.02
여름 휴가비 조심해라! 2분기 출시될 게임 기대작 9선 1 2018.04.01
새로운 홍대 놀거리 명소 생겼다, ‘VR스퀘어’ 개장 1 2018.04.01
OGN, 배틀그라운드 PSS 시즌1 4월 15일 개막... 선발전 접수 시작 1 2018.03.28
ASL S5 24강 D조 [윤찬희 vs 장윤철] 생방송 1 2018.03.20
토종게임 ‘배틀그라운드’폭풍인기… 미 영화시장 잇단 러브콜 2 2018.03.18
'중국 트위터' 웨이보, 배틀그라운드-왕자영요 e스포츠팀 창단 1 2018.03.17
개발 키트 나왔다고? 신형 콘솔 ‘PS5’ 루머 솔솔 1 2018.03.17
오버워치 컨텐더스 코리아 시즌1이 시작됩니다 1 2018.03.17
사회)늙어가는 한국…20대 경제활동인구, 60대 이상에 추월당해 1 2018.03.11
배틀그라운드 정식서비스(1.0 버전) 7차 업데이트 내역 1 2018.03.10
검은사막M) 3월 업데이트 예고 및 인터뷰 기사 안내 2018.03.10
[리니지M] 3월 1주차 업데이트 뉴스 2018.03.10
[개발일지] 2018 배틀그라운드 로드맵 1 2018.03.09
셧다운제·게임장애 신설… “왜 게임만 갖고 그래” 1 2018.03.02
주말에는 전쟁이다! ‘콜 오브 듀티 2: WW2’ 멀티 무료 1 2018.03.01
스팀에 부는 게임한류, 최고 인기 2위 '던그리드'도 국산 1 2018.03.01
기록 업데이트: 토르비욘이 아내에게 보낸 편지 1 2018.03.01
아프리카TV 배틀그라운드 BJ 멸망전 중계 1 2018.02.26
평창 동계 올림픽 폐막식 중계 1 2018.02.25
[배틀그라운드] 알려진 이슈 사항 - 18.02.23 1 2018.02.25
사회) ‘20대 백수’ 사상 첫 40만 돌파… 청년실업 역대 최악 1 2018.02.25
Board Pagination Prev 1 ... 15 16 17 18 19 20 21 22 23 24 ... 27 Next
/ 27