“혐오-차별 표현 사용 댓글 철퇴”…카카오, 악성 댓글 AI로 분석한다

‘욕설-혐오-차별’ 악성 댓글 신고·제재 정책 강화..건강한 온라인 커뮤니케이션 생태계 조성
카카오가 포털 다음(Daum)과 카카오톡 #탭의 뉴스 댓글 서비스 및 운영 정책을 개편합니다. 이미지| 카카오

인더뉴스 권지영 기자ㅣ카카오(공동대표 여민수, 조수용)가 뉴스 서비스의 악성 댓글에 대한 제재 정책을 강화합니다. 플랫폼 기업의 사회적 책임을 다하기 위한 또 하나의 조치인데요.

26일 카카오에 따르면 포털 다음(Daum)과 카카오톡 #탭의 뉴스 댓글 서비스 및 운영 정책을 개편합니다. 뉴스 댓글 서비스에 대한 이용자의 자발적인 참여와 선한 영향력을 바탕으로 건강한 커뮤니케이션 생태계를 만들어 가기 위한 결정입니다.

우선 악성 댓글 신고 및 제재 정책을 한층 강화합니다. 현재 카카오는 업계 최초로 2017년 7월부터 AI를 통해 모든 댓글의 욕설 및 비속어를 필터링하는 ‘욕설 음표 치환 기능’을 적용하고 있습니다.

이번 개편에서는 욕설·비속어뿐 아니라 ‘차별·혐오’에 대한 신고 항목을 신설했습니다. 욕설이나 비속어를 쓰지 않더라도 타인에게 불쾌감을 주거나 개인의 인격과 명예를 침해할 수 있다는 점을 감안한 조치입니다.

이용자가 신고한 악성 댓글이 문제가 있다고 확인되면 해당 댓글을 삭제할 뿐 아니라 작성자에 대한 제재도 진행해 악성 댓글 작성을 원천적으로 예방합니다. 신고한 댓글이 삭제되면 그 결과를 알려주는 ‘신고 알림’ 기능도 도입했습니다.

댓글 서비스에 대한 이용자 권리 보호를 위한 기능도 도입했습니다. 우선, 댓글 영역 자체의 노출을 관리할 수 있는 ‘접기’ 기능이 생겼는데요. 댓글 영역 상단의 ON·OFF 버튼에서 OFF를 선택하면 댓글 영역 전체가 사라지며, 다시 ON을 누르면 댓글을 확인할 수 있습니다.

또 보고 싶지 않은 댓글이나 해당 댓글 작성자를 앞으로 나에게 보이지 않게 하는 ‘덮어두기’ 기능도 생깁니다. 이용자가 많이 덮어둔 댓글과 사용자에 대한 데이터는 AI로 분석해 지속적인 댓글 서비스 개선에 활용합니다.

카카오 여민수-조수용 공동대표는 “이번 개편은 다수 이용자들의 선한 의지와 영향력이 서비스에 반영될 수 있게 해 커뮤니케이션 생태계를 이용자들이 직접 만들어 갈 수 있게 한 것” 이라며 “이용자의 권리와 인격을 보호하고 사회적 책임을 다하기 위해 약속드린 조치들을 지속적으로 실행해 나가고 있다”고 말했습니다.

카카오는 지난해 10월 플랫폼 기업으로서의 사회적 책임을 다하기 위한 서비스 개편을 약속하고 이를 지속적으로 지켜 나가고 있습니다. 개인의 인격과 명예, 사생활을 보호하기 위해 연예 뉴스 댓글을 폐지한 데 이어 12월에는 인물 관련 검색어 및 서제스트 개편과 함께 실시간 이슈 검색어 서비스 종료를 발표하고, 지난 20일에 이를 이행했습니다.

카카오는 최신 트렌드를 확인할 수 있는 새로운 서비스를 연내 선보일 예정이며, 이용자 개개인의 취향과 니즈를 반영한 콘텐츠 구독 서비스를 준비하고 있습니다.

혐오·폭력성 콘텐츠에 대한 자율규제 기준과 이행 방안에 대한 논의도 시작합니다. 외부 전문가 및 이용자들과의 지속적인 소통을 바탕으로 플랫폼 자율 규제에 대한 정책을 고도화해 나갈 계획입니다.

0 Comments
Inline Feedbacks
View all comments

More in Tech 테크


Top