온라인 게임 상에서 악성 유저로 인한 각종 피해를 AI(인공지능)로 걸러내는 기술이 고도화되고 있다. 게임사들이 게임 내 이용 환경 개선을 위한 전략 중 하나로 AI를 사용하는 것이다.

17일 업계에 따르면, 엔씨소프트의 AI 연구조직은 새로운 분야의 개발과 동시에 게임과 연관된 AI 기술을 개발·적용하고 있다.

엔씨소프트는 AI 탐지 기술은 편향적 발언, 성희롱, 폭력적 언어 등 6개의 기본 비윤리적인 표현을 비롯해 사용자가 불편한 감정을 느낄 수 있는 부적절한 표현 7개까지 총 13개의 유형을 구분해 탐지하고 있다. 작년엔 13개 유형을 실제 학습 데이터에 반영하고, 이를 기반으로 해당 표현이 포함된 발화를 탐지하는 기술을 개발했다.

사용자가 챗봇을 교란하는 공격기법으로 인한 피해를 방지하는 내부 대응 시스템도 개발했다. 공격 범주는 성희롱, 범죄 및 전과, 자해 등 20개로 정의됐는데, 직접적인 표현뿐만 아니라 문맥적으로 비윤리적이거나 비윤리적인 인식을 줄 수 있는 표현까지 포함한다.

또 AI 시스템을 공정하고 비편향적으로 개발해 플레이 경험 전반을 개선하기 위한 연구도 이어지고 있다. 이를 위해 AI 서비스 개발 시, 다양한 테스트 시나리오 설계 및 4단계 AI 영향도 테스트를 진행 중이다.

넥슨이 2017년 설립한 인텔리전스랩스(전 분석본부)는 게임에 적용된 부가기능을 고도화하고, 머신러닝이나 딥러닝 기술을 활용한 시스템을 개발‧적용하는 것을 목표로 한다.

인텔리전스랩스는 게임 플레이와 연계된 유저 경험 전반에 거친 연구에 AI를 적용하고 있다. AI 페르소나를 통해 NPC∙유저 간 커뮤니케이션 기능도 검토하고 있다.

인텔리전스랩스는 AI에 편향 없는 알고리즘이 필터링하는 기술을 적용한다. 알고리즘 그 결과가 특정 가치에 기울었거나 사회적인 차별을 강화하지 않도록 하는 것이다. 더불어 프라이버시가 노출되거나 아동∙청소년이 부적절한 환경에 빠지지 않도록 하는 서비스 설계를 구축해 따르고 있다.

넷마블은 게임 로그를 딥러닝 알고리즘으로 학습하여 게임 내에서 발생하는 이상 케이스를 신속하게 탐지하고, 해당 내역을 관련 부서 또는 담당자에게 자동으로 리포팅하는 시스템을 구축하고 있다. 일반 이용자들과 매우 다른 행동을 하는 이용자를 탐지하는 시스템인데, 각종 어뷰징 등을 자동 탐지할 수 있다.

한편, 미국의 3D 콘텐츠 제작 플랫폼 기업 유니티는 AI를 활용해 온라인 게임 속 욕설과 괴롭힘을 감지하는 시스템을 개발했다. AI가 이용자 간 음성 대화의 어조, 음량, 높낮이, 억양, 감정, 맥락 등을 실시간으로 분석해 대응하는 것이다. 현재 클로즈 베타 단계인 '세이프 보이스'는 별도의 신청을 통해 이용할 수 있으며, 향후 완성도를 높여 정식 출시된다.

블리자드도 ‘오버워치 2’ 서비스를 앞두고 보이스챗으로 악성 유저를 잡는 '방어 매트릭스'를 소개한 바 있다. 특정 유저에 대한 신고가 이뤄질 경우 임시 녹음 파일을 텍스트로 변환하고 텍스트를 분석하는 방식이다.

업계 관계자는 “AI는 게임 내 이용환경 개선을 위한 다양한 조건에 유용하게 활용될 수 있다”며 “AI서비스가 고도화될수록 이를 적용한 게임 내의 이용자 경험도 향상할 것”이라고 설명했다.