검색창 열기 인더뉴스 부·울·경

ICT 정보통신

“혐오-차별 표현 사용 댓글 철퇴”...카카오, 악성 댓글 AI로 분석한다

URL복사

Wednesday, February 26, 2020, 16:02:34

‘욕설-혐오-차별’ 악성 댓글 신고·제재 정책 강화..건강한 온라인 커뮤니케이션 생태계 조성

 

인더뉴스 권지영 기자ㅣ카카오(공동대표 여민수, 조수용)가 뉴스 서비스의 악성 댓글에 대한 제재 정책을 강화합니다. 플랫폼 기업의 사회적 책임을 다하기 위한 또 하나의 조치인데요.

 

26일 카카오에 따르면 포털 다음(Daum)과 카카오톡 #탭의 뉴스 댓글 서비스 및 운영 정책을 개편합니다. 뉴스 댓글 서비스에 대한 이용자의 자발적인 참여와 선한 영향력을 바탕으로 건강한 커뮤니케이션 생태계를 만들어 가기 위한 결정입니다.

 

우선 악성 댓글 신고 및 제재 정책을 한층 강화합니다. 현재 카카오는 업계 최초로 2017년 7월부터 AI를 통해 모든 댓글의 욕설 및 비속어를 필터링하는 ‘욕설 음표 치환 기능’을 적용하고 있습니다.

 

이번 개편에서는 욕설·비속어뿐 아니라 ‘차별·혐오’에 대한 신고 항목을 신설했습니다. 욕설이나 비속어를 쓰지 않더라도 타인에게 불쾌감을 주거나 개인의 인격과 명예를 침해할 수 있다는 점을 감안한 조치입니다.

 

이용자가 신고한 악성 댓글이 문제가 있다고 확인되면 해당 댓글을 삭제할 뿐 아니라 작성자에 대한 제재도 진행해 악성 댓글 작성을 원천적으로 예방합니다. 신고한 댓글이 삭제되면 그 결과를 알려주는 ‘신고 알림’ 기능도 도입했습니다.

 

댓글 서비스에 대한 이용자 권리 보호를 위한 기능도 도입했습니다. 우선, 댓글 영역 자체의 노출을 관리할 수 있는 ‘접기’ 기능이 생겼는데요. 댓글 영역 상단의 ON·OFF 버튼에서 OFF를 선택하면 댓글 영역 전체가 사라지며, 다시 ON을 누르면 댓글을 확인할 수 있습니다.

 

또 보고 싶지 않은 댓글이나 해당 댓글 작성자를 앞으로 나에게 보이지 않게 하는 ‘덮어두기’ 기능도 생깁니다. 이용자가 많이 덮어둔 댓글과 사용자에 대한 데이터는 AI로 분석해 지속적인 댓글 서비스 개선에 활용합니다.

 

카카오 여민수-조수용 공동대표는 “이번 개편은 다수 이용자들의 선한 의지와 영향력이 서비스에 반영될 수 있게 해 커뮤니케이션 생태계를 이용자들이 직접 만들어 갈 수 있게 한 것” 이라며 “이용자의 권리와 인격을 보호하고 사회적 책임을 다하기 위해 약속드린 조치들을 지속적으로 실행해 나가고 있다”고 말했습니다.

 

카카오는 지난해 10월 플랫폼 기업으로서의 사회적 책임을 다하기 위한 서비스 개편을 약속하고 이를 지속적으로 지켜 나가고 있습니다. 개인의 인격과 명예, 사생활을 보호하기 위해 연예 뉴스 댓글을 폐지한 데 이어 12월에는 인물 관련 검색어 및 서제스트 개편과 함께 실시간 이슈 검색어 서비스 종료를 발표하고, 지난 20일에 이를 이행했습니다.

 

카카오는 최신 트렌드를 확인할 수 있는 새로운 서비스를 연내 선보일 예정이며, 이용자 개개인의 취향과 니즈를 반영한 콘텐츠 구독 서비스를 준비하고 있습니다.

 

혐오·폭력성 콘텐츠에 대한 자율규제 기준과 이행 방안에 대한 논의도 시작합니다. 외부 전문가 및 이용자들과의 지속적인 소통을 바탕으로 플랫폼 자율 규제에 대한 정책을 고도화해 나갈 계획입니다.

 

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

권지영 기자 eileenkwon@inthenews.co.kr

배너

22년 맞은 네이버 블로그, AI 추천으로 확 바뀐다

22년 맞은 네이버 블로그, AI 추천으로 확 바뀐다

2025.09.08 15:22:19

인더뉴스 이종현 기자ㅣ네이버 블로그가 ‘기록의 발견, 즐거운 연결’이라는 새 슬로건을 공개하고 AI 기반 개인화 추천 확대 등 서비스 개편을 단행합니다. 네이버[035420]는 서비스 출시 22년을 맞아 네이버 블로그의 AI 개인화 추천을 강화하고 발견과 탐색, 관계와 커뮤니티 강화를 중심으로 한 향후 방향성을 8일 공개했습니다. 2003년 선보인 네이버 블로그는 일상을 기록할 수 있도록 창작 생태계를 고도화하면서 올 8월 기준으로 쌓인 게시글은 33억건 이상, 누적 블로그 수는 약 3700만 개에 달합니다. 오는 10일 선보이는 새로운 ‘블로그 홈’은 기존에 이웃이 올린 최신 게시글을 모아 제공한 데에서 확대 개편, 이웃 최신글과 이용자의 관심사, 이웃 관계가 반영된 콘텐츠도 함께 추천합니다. AI 기반 개인화 추천을 통해 기존 연령별·성별·주제 등을 바탕으로 콘텐츠를 추천하는 것에서 나아가, 이웃 관계·관심사·활동 이력 등을 분석해 이용자가 취향에 맞는 게시글을 탐색하고, 새로운 관심사도 발견할 수 있도록 지원합니다. 이용자가 더 활발하게 소통하는 이웃의 글을 우선 살펴볼 수 있는 관계도순 정렬 기능도 선보입니다. 이 기능은 일부 사용자를 대상으로 AB테스트를 거쳐 점진적으로 확대 적용할 예정입니다. 네이버 블로그는 홈 개편을 시작으로, 주제별·연령별 게시글을 추천하는 ‘추천탭’에 연내 개인 맞춤형 추천 기술을 더하는 등 발견 및 탐색 경험을 한층 강화해 나갈 계획입니다. 또 블로그에서 주목받는 콘텐츠·블로거·트렌드 등을 한눈에 살펴볼 수 있는 탭도 신설할 예정입니다. 이용자들이 관심사를 중심으로 다른 이용자와 더욱 활발하게 연결될 수 있도록 소통 기능도 강화합니다. 10일부터 블로그 게시글에 더 다양한 리액션을 남길 수 있도록 공감 이모티콘을 기존 ‘좋아요(하트)’에 더해 ‘웃겨요’, ‘놀라워요’ 등 6종으로 확대합니다. 또 이용자들이 자신의 블로그 메인에 Q&A·투표 등을 추가한 ‘위젯’ 기능도 출시해 다양한 방식으로 다른 이용자와 소통할 수 있도록 할 예정입니다. 이와 함께 같은 관심사와 취향을 가진 이용자들이 함께 콘텐츠를 만들고 정보를 공유할 수 있는 커뮤니티 기능도 선보일 계획입니다. 이는 이웃들과 함께 블로그 챌린지에 도전하거나 다른 이용자와 관심사 큐레이션을 공유할 수 있는 기능 등입니다. 네이버는 블로그 홈 개편에 맞춰 하루에 한 번 참여할 수 있는 ‘블로그 홈 보물찾기 이벤트’를 이달 10일부터 23일까지 진행, 추첨을 통해 네이버페이 포인트를 제공합니다. 이일구 네이버 콘텐츠서비스 부문장은 “네이버 블로그는 ‘기록’이라는 본연의 가치를 중심으로 안정적인 서비스를 이어오며 이용자들에게 20년 이상 꾸준한 사랑과 신뢰를 받으며 성장해 왔다”며 “넥스트 블로그는 블로그에 쌓인 소중한 기록들을 바탕으로, 블로거들이 나와 연결된 사람들의 기록을 통해 새로운 관심사와 트렌드를 발견하고, 창작에 대한 영감을 얻고, 또 관계를 확장해 나갈 수 있는 ‘함께 하는 블로그’로 나아가겠다”고 말했습니다.




배너