인더뉴스 권용희 기자ㅣ업스테이지(대표 김성훈)는 과학기술정보통신부의 'AI 윤리·신뢰성 확보 위한 릴레이 현장 방문' 첫 번째 기업으로 선정됐다고 15일 밝혔습니다.
'기업 릴레이 방문'은 AI 윤리·신뢰성 확산을 위해 AI 분야별 대표기업에 방문하는 행사입니다. 과기정통부는 지난달 11일 개최된 ’AI 윤리·신뢰성 강화를 위한 간담회‘를 진행한 바 있습니다.
이활석 CTO는 업스테이지의 대표 AI 솔루션인 '다큐먼트 AI팩'과 챗AI 'AskUp', 추천·검색 서비스를 접목한 'AskUp 서제스트(Seargest)'를 소개하고 서비스 시연을 진행했습니다.
'다큐먼트 AI 팩'은 문서 AI 솔루션으로 OCR 기술을 통해 이미지나 PDF 형식의 문서를 텍스트로 변환을 지원합니다. 자연어 처리 기술을 통해 반복된 수작업을 제거하고 필요한 문서의 내용을 추출하거나 분석 및 요약할 수 있습니다.
'AskUp 서제스트'는 검색과 추천 기술을 활용해 초개인화 된 추천을 채팅 형태로 제공하는 솔루션입니다. 쇼핑, 여행, 영화, 서적 등 다양한 도메인과 시나리오에 적용할 수 있으며 고객 서비스, 마케팅, 교육 등 다양한 분야에서 활용될 수 있습니다.
업스테이지는 생성 AI의 단점으로 지적받던 환각 현상을 완화하기 위해 '? 검색'을 국내 최초로 도입, 팩트 기반의 정보를 제공하고 있습니다 개인정보 텍스트에 대한 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등도 지원합니다.
박윤규 과기정통부 제2차관은 "국내 기업이 자사 제품 및 서비스에 인공지능 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문하여 애로사항과 지원 필요사항을 경청하고 인공지능 윤리·신뢰성 확산에 앞장서 나가겠다"고 밝혔습니다.
이활석 CTO는 "AI 윤리와 신뢰성에 대한 논의가 가속화 되고 있다"면서 "업스테이지는 선도적인 AI 기술을 바탕으로 이번 행사를 포함 민관 논의 등 다양한 노력을 통해 AI기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것"이라고 말했습니다.