검색창 열기 인더뉴스 부·울·경

News Plus 뉴스+ Industry/Policy 산업/정책

혐오발언·감시에 악용되는 AI...윤리 문제 막을 수 있을까

URL복사

Wednesday, May 15, 2019, 11:05:54

AI 5원칙 맞춰 개발하는 MS..챗봇 테이 이후 경각심 갖게돼
신뢰도 높이는 7원칙 발표한 EU..기본권 기술 핵심으로 정의

인더뉴스 이진솔 기자ㅣ 스마트 스피커 사용이 확산되면서 음성비서 역할을 하는 인공지능(AI)은 이제 일상이다. 시장조사기관 트랜드포스는 올해 스마트 스피커 시장 규모가 9525만 대에 달할 것으로 예상했다. AI기반 얼굴인식·광고 등 인격화되지 않은 AI도 일상화됐다.

 

접촉면이 늘어나는 만큼 새로운 문제가 대두된다. 그 중 AI 윤리와 신뢰도 문제는 우리나라에서도 채팅로봇 ‘심심이’가 혐오발언을 내놓으면서 화두가 된 바 있다. 비슷한 경험을 했던 마이크로소프트를 필두로 한 글로벌 테크 기업과 선진국에서는 관련 논의가 활발하다.

 

◇ 채터봇 ‘테이’ 사건 이후 경각심 갖게된 MS..인간 편익 높이는 방향으로 개발

 

마이크로소프트는 지난 14일 디지털 기술 오남용을 막고 소비자 신뢰를 높이는 노력을 설명했다. 서울 광화문 한국마이크로소프트에서 열린 ‘신뢰할 수 있는 플랫폼 및 환경 구축을 위한 마이크로소프트의 노력과 사례 소개’에서는 데이터·보안·AI와 관련된 신뢰 구축 사례가 공개됐다.

 

마이크로소프트는 지구상 모든 개인과 조직이 더 많이 성취하는 것을 회사가 추구하는 미션으로 삼고 있다고 밝혔다. 사티아 나델라 마이크로소프트 최고경영자(CEO)도 최고 경영진부터 고객들까지 마이크로소프트 제품을 사용하려면 신뢰를 배제할 수 없다고 강조하고 있다.

 

회사가 강조하는 신뢰는 보안(Security)·개인정보(Privacy)·투명성(Transparency)·준법(Compliance)·윤리(Ethics) 등 다섯가지 항목이다. 이중 윤리 측면에서 AI와 관련된 논의가 진행되고 있다.

 

마이크로소프트는 AI에 적용되는 원칙으로 책임·투명성·공정성·신뢰성·개인정보·포용성 등 다섯 가지를 제시한 바 있다. 회사는 지난 2016년 트위터 AI 채터봇 테이(Tay)가 론칭 하루만에 중단된 사건이 AI 원칙을 수립한 계기라고 설명했다.

 

당시 테이는 트위터 상에 있는 편향된 데이터와 혐오 발언을 습득해 출시된 당일 인종차별 발언을 했다. 마이크로소프트는 출시 16시간 만에 운영을 중단하고 공식 사과했다. 이후 AI 개발과정에 AI 윤리위원회 등 자체 규율을 강화하는 방식으로 윤리 문제를 고려하고 있다.

 

정교화 한국마이크로소프트 정책협력 법무실 총괄은 “AI가 일으키는 부정적 영향이 존재하지만, 동시에 인간 편익을 증진시킬 수 있다고 본다”며 “지구 환경 변화나 장애인 접근성에 도움이 되는 프로젝트가 진행되고 있다”고 말했다. 

 

하지만 마이크로소프트가 개발한 AI 기술이 부정한 방향으로 쓰이는 경우도 있다. 미국 이민국에서 마이크로소프트 안면 인식 기술을 활용해 불법 이민을 막으려고 시도한 사건이 대표적이다. 회사는 이민국에 기술 제공을 거부하고 정부에 규제를 촉구했다.

 

최근에는 중국 마이크로소프트 연구소가 중국 후방성 창사에 있는 국방과학기술대학과 AI 기반 얼굴인식 기술 연구에 함께한 사실이 드러나 논란이 됐다. 이 대학은 중국 공산당 중앙 군사 위원회가 통제한다. 중국 정부가 추진하는 시민 감시·검열에 기술이 악용될 여지가 있다.

 

◇ AI 신뢰 높이기 위해 대중이 참여하는 윤리위원회 필요

 

 

지난달 8일 유럽연합(EU) 집행위원회는 신뢰할 수 있는(trustworthy) 인공지능 프로그램을 만들기 위한 7가지 원칙을 발표했다. 상업적 AI에 대한 다국적 지침은 이번이 처음이다.

 

지침을 마련하는데 기업·NGO·학계에서 전문가 52명이 힘을 모았다. 당장 법적 구속력을 갖추는 것은 아니며 내년까지 시범적용을 거치며 보완을 거칠 예정이다.

 

원칙은 ▲인간 주체성 보장 ▲기술적 안정성 ▲개인정보 보호와 데이터 거버넌스 ▲투명성 ▲비차별과 공정성 ▲사회와 환경의 행복 ▲책무 등이다.

 

특히 인간이 가진 기본권을 AI 기술의 핵심으로 정의한다는 점에서 긍정적이라는 평가다. 비차별과 공정성 항목에서는 사회적 소수자의 권리를 보장하려는 노력이 엿보인다.

 

영국 파이낸셜타임즈는 “AI를 최대한 개방하고, 규정을 준수하며, 인간을 기술 개발의 중심에 두는 것이 기술을 윤리적으로 만드는 최선의 방법”이라며 “EU의 지침은 끝이 아니라 새로운 개방적 논의의 시작”이라고 말했다.

 

위원회가 항상 좋은 결론을 내놓지는 않는다. 구글은 지난 3월 AI 윤리 위원회를 설립했지만 구성원 자격 논란에 휘말리면서 일주일만에 해체했다. ‘첨단기술 외부자문회의(Advanced Technology External Advisory Council)’이라는 자문단은 위원 8명으로 꾸려질 예정이었다.

 

하지만 보수주의 싱크탱크 헤리티지 재단(The Heritage Foundation) 케이 콜스 제임스(Kay Coles James) 회장이 선임되면서 문제가 불거졌다. 구글 직원들은 제임스 회장이 취한 보수적인 입장이 동성애자 권리를 긍정하는 다양성 문제에 어긋난다며 해임을 촉구했다.

 

구글은 “지금 환경에서는 위원회가 정상적으로 기능할 수 없음이 명백해 위원회를 폐지하겠다”며 “AI가 제기하는 이슈에 대해서는 계속 책임질 것이고 외부 의견을 얻을 수 있는 다른 방법을 찾을 것”이라고 말했다.

 

AI 윤리위원회 구성에 있어 강조되는 것은 투명성과 이해당사자들의 넓은 참여다. AI는 개발되면 수많은 소비자들에 영향을 주기 때문에 위원회에 기업 담당자 뿐만 아니라 일반 소비자들까지 참여할 수 있어야 한다는 것이다.

 

마찬가지로 기술 개발 과정이 소비자들에게 투명하게 드러나야 한다. 미국 월스트리트 저널은 인공지능 윤리위원회 구성에 있어 ▲이해당사자들이 납득할 수 있는 위원 자격 ▲위원회가 AI 개발에 참여할 수 있는 실질적 권한 부여를 강조했다.

 

이어 ▲투명한 AI 윤리 강령 개발 ▲알고리즘이 해를 끼칠 때 신속히 대응할 수 있는 교정조치 마련 ▲코딩 과정을 추적할 수 있는 감사 실시 ▲다양한 인력 채용 또한 필요하다고 조언했다.

 

☞참고할 만한 기사

“한국 소비자, 디지털 활동 활발...개인정보 처리 신뢰는 낮아”

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이진솔 기자 jinsol@inthenews.co.kr

배너

‘넥스트 중국, 포스트 초코파이’ 찾아라…‘글로벌 오리온’의 과제

‘넥스트 중국, 포스트 초코파이’ 찾아라…‘글로벌 오리온’의 과제

2025.07.30 06:00:00

인더뉴스 장승윤 기자ㅣ오리온이 ‘K스낵’ 열풍을 타고 거침없는 질주를 이어가고 있습니다. 지난해 창사 이래 연매출 첫 3조원을 돌파했고 올해 상반기도 역대 최대 실적을 기록 중입니다. 초코파이를 필두로 메가 브랜드들이 전 세계에서 고르게 활약한 덕분입니다. 해외 시장 성장세에 힘입어 오리온은 ‘매출 5조원, 영업이익 1조원’ 달성을 중장기 목표로 내걸었습니다. 다만, 오리온이 글로벌 식품 기업으로 한 단계 더 도약하려면 구조적 한계를 뛰어넘는 변화가 필요하다는 지적이 나옵니다. 소비가 둔화하는 중국 시장에 대한 의존도가 여전히 높고 제품 포트폴리오 역시 초코파이에 편중돼 있기 때문입니다. ‘넥스트 차이나, 포스트 초코파이’를 발굴해 글로벌 무대에서 입지를 공고히 하는 게 오리온의 과제로 떠오르고 있는 겁니다. 오리온 최대 시장 중국, 소비 둔화 직면..‘넥스트 차이나’ 고민 30일 업계에 따르면 오리온은 지난해 매출이 전년 대비 6.6% 오른 3조1043억원을 기록해 이른바 ‘매출 3조 클럽’에 가입했습니다. 영업이익은 5436억원으로 전년보다 10.4% 증가했습니다. 연매출과 영업이익이 각각 3조원, 5000억원을 넘긴 건 지난해가 처음입니다. 올해 상반기 역시 반기 기준 역대 최대 매출(1조5856억원)을 내며 순항 중입니다. 전 세계적인 경기 침체와 설탕·카카오 등 원재료 가격 폭등 여파에도 오리온 실적을 떠받친 건 해외법인입니다. 오리온은 지난 1993년 중국 북경 현지사무소 개설을 시작으로 현재 5개국에 18개의 생산시설을 갖추고 있습니다. 지난해 법인별 매출은 중국 1조2701억원, 한국 1조976억원, 베트남 5145억원 순으로 집계됐습니다. 해외법인 매출 비중은 65%를 넘어섰습니다. 중국은 오리온 그룹 전체 매출의 40%, 해외법인 중에서는 63% 비중을 차지하는 핵심 시장입니다. 중국에 일찌감치 진출한 오리온은 1700여개 경소상과 거래해 간접영업체계를 정착시키고 현금 결제 시스템을 구축해 성장 기반을 마련했습니다. ‘오!감자 토마토맛’, ‘꼬북칩 마라새우맛’ 등 현지화에도 공을 들인 결과 2011년 이후 중국에서 10차례 이상 브랜드 파워 지수 1위에 올랐습니다. 문제는 최근 중국 소비 시장이 둔화하고 있다는 점입니다. 세계은행·맥킨지 등에 따르면 올해 중국 소비 증가율(예상치)은 2.4%로 GDP 증가율(4~5%) 대비 턱없이 낮은 실정입니다. 소비 판매도 매월 등락을 반복하며 저성장 정체 흐름이 지속되고 있습니다. 올 2분기 오리온 영업이익은 전년 동기 대비 0.4% 줄었을 것으로 추정됩니다. 이는 중국 시장에서 사업을 영위하는 한국 식품·소비재 기업들이 중국 시장 의존도를 조정하고 새로운 성장 거점을 찾는 흐름과 맞닿아 있습니다. 국내 주요 식음료 기업 중 중국 매출 비중이 가장 높은 오리온이 해외 법인을 중심으로 기존 시장 경쟁력 확대와 신규 시장 진출에 속도를 내는 것도 같은 맥락입니다. 대신, 급성장 중인 베트남과 러시아 시장에 기대를 걸고 있습니다. 오리온은 러시아에서 6년 연속 두 자릿수 성장세를 지키고 있으며 베트남에서 초코파이는 시장 점유율이 60%에 달합니다. 포트폴리오 다변화 시도는 성과를 내고 있습니다. 2020년 48%에 달했던 중국 매출 비중은 지난해 41%로 줄어든 반면 같은 기간 베트남은 12→16%, 러시아는 4→7%로 늘었습니다. 초코파이 ‘글로벌 1등 K스낵’이지만 신라면·불닭볶음면 절반 수준 오리온은 연매출이 1000억원을 넘는 일명 ‘메가 브랜드’를 9개 보유하고 있습니다. 1등은 단연 초코파이입니다. 오리온 초코파이는 1974년 출시 이후 누적 판매량 500억개, 누적 매출 8조원을 넘기며 세계인이 즐기는 대표 K스낵으로 자리 잡았습니다. 현재 60개국에서 총 24종의 초코파이가 판매되고 있습니다. 단일 브랜드로 글로벌(국내외) 연매출이 5000억원을 넘기는 제품은 손에 꼽힙니다. 대표적으로 CJ제일제당 비비고만두가 1조2000억원 이상, 농심 신라면이 1조2000억원 이상, 삼양식품 불닭볶음면이 약 1조원 이상을 벌고 있는 것으로 추정됩니다. 그 뒤를 초코파이가 잇고 있습니다. 지난해 초코파이 글로벌 매출은 5827억원으로 6000억원에 육박했습니다. 또한, 장기적으로는 새로운 성장축 발굴이 필요하다는 지적도 나옵니다. 실제 오리온의 메가 브랜드 2위인 오감자 연매출은 2840억원으로 초코파이의 절반에도 미치지 못합니다. 그마저도 2000억원 이상이 중국 매출입니다. 스윙칩(1930억원), 예감(1500억원) 등 글로벌 매출도 1000억원 이상이 중국에서 나옵니다. 오리온은 최대 시장인 중국은 고성장 채널 위주로 제품 출고를 늘리는 한편 베트남과 러시아, 인도 등에는 현지인 입맛을 반영한 초코파이를 선보이며 점유율을 끌어올리고 있습니다. 초코파이 외 다른 제품들도 판매량을 높여 메가 브랜드 라인업을 넓힌다는 게 오리온의 구상입니다. 미국을 중심으로 세력을 확장하고 있는 꼬북칩도 ‘포스트 초코파이’의 유력 후보입니다. 초코파이 매출은 해마다 늘고 있지만 국가별 비중은 조금씩 달라지고 있습니다. 2020년부터 2024년 사이 초코파이 글로벌 매출에서 중국 비중은 46%에서 33%로 줄었고 한국 비중도 19%에서 16%로 떨어졌습니다. 반면 같은 기간 베트남 비중은 19%에서 21%로, 인도는 1%에서 3%로 증가했습니다. 특히 러시아에서의 성장세가 가파릅니다. 오리온은 모든 법인 중 러시아에서 가장 많은 12종의 초코파이를 생산·판매하고 있습니다. 초코파이 매출에서 러시아 비중은 2020년 16%에서 지난해 28%로 두 배 가까이 커지며 중국(33%)과 대등한 수준까지 올라왔습니다. 차와 케이크를 즐기는 러시아에서 초코파이는 말 그대로 ‘없어서 못 팔 지경’입니다. 한 식품업계 관계자는 “오리온 하면 대표적으로 떠오는 게 초코파이인데 글로벌 회사라고 얘기하려면 특정한 브랜드 하나만 가지고는 쉽지 않을 것”이라며 “다른 제품들도 함께 키워 제2의 초코파이와 같은 브랜드가 나오기를 바랄 것이고 그에 맞춰 전략을 짜는 게 오리온의 과제이지 않을까 싶다”고 말했습니다. 국내외 생산시설 구축에 8300억 투자..성장 열쇠는 역시나 ‘해외’ 오리온은 늘어나는 K스낵 수요에 맞춰 생산능력 확대에 주력할 방침입니다. 향후 2년 내 글로벌 생산시설 구축에만 8300억원을 투자합니다. 국내에는 4600억원을 들여 2027년 6월까지 충북 진천에 생산·포장·물류가 통합된 진천통합센터를 세웁니다. 완공 시 국내 생산능력은 최대 2조3000억원까지 늘어납니다. 베트남에는 하노이 옌퐁공장 내 신공장동을 완공하고 쌀 스낵 생산 라인 증설에 나섭니다. 제3공장에는 1300억원을 투자해 생산능력을 지금보다 20% 수준 확대할 계획입니다. 이를 통해 초코파이, 생감자 스낵에 이어 올해 쌀과자 시장 점유율 1위로 꿰찬다는 각오입니다. 러시아의 경우 올 1분기 기준 공장 가동률이 120%를 넘어섬에 따라 트베리 공장 내 새로운 공장동을 건설하기로 결정했습니다. 총 투자 금액은 2400억원 규모로 파이·비스킷·스낵 등 16개 생산라인을 증설합니다. 완공 시 연간 생산량은 현재의 2배인 7500억원 수준까지 확대될 전망입니다. 인도에는 100억원을 투자해 초코파이 생산라인을 추가할 예정입니다. 오리온 관계자는 “전 세계인 모두가 오리온 초코파이를 고유의 맛뿐만 아니라 정서적 가치까지 즐기는 제품으로 키워나가는 중”이라며 “꼬북칩, 알맹이젤리 등 각국 소비자 취향에 맞춘 다양한 맛과 식감의 제품도 선보이며 초코파이를 잇는 글로벌 브랜드를 확대해 나갈 것”이라고 말했습니다.




배너