사티아 나델라 마이크로소프트 CEO. /사진=머니투데이DB

4차 산업혁명이 IT업계 화두로 떠오른 가운데 인공지능(AI)이 산업 전 분야를 아우르며 급성장하고 있다. 일각에서는 AI를 두고 언젠가 인간을 위협할 존재가 될 지 모른다고 우려한다. 또 잘못되고 편향된 데이터를 수집해 인간에 대한 차별과 편견을 학습할 소지도 있다. 국내외 IT업계는 AI가 믿을 만한 기술임을 확증하기 위해 속속 윤리 가이드라인을 정비 중이다.

◆작은 허점, 큰 파장으로

지난달 한국을 방문한 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 “AI가 무엇을 할 수 있는 지가 아니라 무엇을 해야하는지 물어야 할 때”라며 사회구성원으로서 AI가 미칠 영향력과 책임감을 강조했다. 

나델라는 자신의 저서 <히트 리프레시>를 통해 “AI를 발전시키는 과정에서 가장 중요한 단계는 AI설계에 필요한 윤리와 공감에 관한 틀에 합의하는 것”이라며 “인간의 영혼을 이해하고 인간의 존엄성을 해치지 않으면서도 효율을 극대화 하는 것”이라고 밝혔다. MS가 이처럼 AI의 윤리에 집중하는 이유는 과거 그들이 겪은 뼈저린 경험 때문이다.

2016년 3월 MS는 AI기반 소셜 챗봇 ‘테이’(Tay)를 세상에 내놨다. 테이는 MS의 야심작으로 소셜네트워크서비스(SNS)에서 인간과 소통하고 농담을 주고 받을 만큼 유머감각도 지녔다. 개발진은 테이에게 10대 소녀의 말투라는 캐릭터까지 부여했다. “오늘 하루 어땠어?”라는 질문에는 “대박 힘들었어”라는 답변도 내놓았다. AI기반 챗봇이라는 타이틀처럼 테이는 대화상대가 많아질수록 언어와 대답 능력이 좋아지도록 설계됐다.

테이의 등장에 세계는 호기심을 보였다. 이름이 무엇인지, 제작자는 누구인지, 너와 나는 친구인지 등 각종 질문이 쏟아졌다. 부정적인 질문도 적지않았다. 그 결과 테이는 인종차별, 혐오같은 모욕적인 말을 습득하기에 이르렀고 테이는 인간을 원숭이에 비유하는가 하면 홀로코스트에 대해서는 존재 자체를 부정했다. 아돌프 히틀러에 관한 내용도 여과없이 SNS에 쏟아냈다.

결국 MS는 테이를 선보인 지 하루도 지나지 않아 비공개로 전환하면서 물의를 빚은 것에 대해 공식 사과했다. MS의 연구 및 AI담당 디렉터 에릭 호비츠는 “테이가 세상에 공개된 후 우리는 개방된 환경 속에서 AI가 어떻게 작동해야 하는지 계획을 세우지 못했다”고 밝혔다.

챗봇은 AI가 가진 잠재력의 일부에 지나지 않는다. 하지만 테이가 드러낸 허점은 AI가 조금이라도 들어간 소프트웨어의 함정이 얼마나 거대한지 보여주는 사례다. 이 사건 이후 MS를 포함한 전세계 기업들은 착한 AI개발을 위해 ‘아실로마 AI 원칙’을 제정했다.

아실로마 AI 원칙은 총 23개항의 AI 개발 준칙으로 지난해 1월6일 미국 캘리포니아 아실로마에서 열린 AI 콘퍼런스에서 제정됐다. ‘AI 연구 목표는 인간에게 유용한 지능을 개발하는 것’이라는 1항에서 알 수 있듯 인류의 편익과 행복을 위한 윤리적인 개발을 목표로 한다.

AI로봇 소피아. /사진=로이터

◆‘착한 AI’ 만들기 나선 기업들

AI의 윤리부문에서 가장 적극적인 행보를 보이는 기업은 MS다. 이들은 과거의 실패를 답습하지 않기 위해 입체적인 윤리 가이드라인을 갖췄다. MS는 AI를 개발하는데 있어 ▲공정성 ▲신뢰성과 안전보장 ▲투명성 ▲프라이버시와 보안 ▲포용성 ▲시스템에 대한 책임 등 여섯가지 원칙을 수립·적용했다.

최근에는 인간과 AI가 공존하는 사회를 구현하기 위한 기술 개발에 매진 중이다. 장애인 보조 기술에 AI를 적용해 불명확한 발언을 유창하고 명확한 텍스트로 변환해 주는가 하면 오디오 정보를 3차원으로 구현해 시각장애인들의 이동성을 개선하는 등의 긍정적인 결과물을 내놓고 있다.


IBM도 AI의 윤리에 대한 연구를 진행 중이다. IBM은 AI가 인간의 편견을 그대로 습득하는 단점을 보완하기 위한 기술 개발에 집중하는 모습이다. 최근에는 ‘AI 오픈스케일’이라는 편향검증 플랫폼을 선보였다. 이 플랫폼은 자동화된 편향 제거 기술을 활용해 AI가 하나의 현상에 대해 판단한 근거를 설명하고 스스로 수정하는 것이 핵심이다.

국내 기업도 윤리적인 AI를 만들기 위한 전세계의 움직임에 보폭을 맞춘다. 지난 1월 카카오는 국내 기업 최초로 AI기술 개발 및 윤리에 관한 원칙인 ‘카카오 알고리즘 윤리헌장’을 발표했다. 카카오는 이를 통해 “알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 하며 인류의 편익과 행복을 추구할 것을 표방한다”고 밝혔다.


삼성전자도 착한 AI개발에 나섰다. 지난달 8일(미국 시간) 삼성전자는 AI 미래에 대한 범사회적인 논의에 참여하기 위해 AI 국제협력단체인 ‘PAI’에 가입했다고 밝혔다. PAI는 2016년 설립된 단체로 ‘윤리적 AI의 연구개발’을 주도하는 것이 목표다. 아마존, 구글, MS 등 70여개 글로벌 기업이 PAI의 회원사인데 국내 기업으로서는 삼성전자가 처음이다.

PAI는 ▲안전성 ▲공정성·투명성·책임성 ▲AI의 노동·경제 ▲인간과의 협력 ▲사회적 영향 ▲사회적 공익 등을 주로 연구한다. 이 가운데 삼성전자는 ‘인간과의 협력’ 분야에 참여해 인간과 AI가 공존하며 협력하는 방향에 대한 연구에 집중한다.


조승환 삼성리서치 부사장은 “이번 PAI 가입을 통해 사람과 사회에 유익한 AI기술을 만드는 초석을 다지게 됐다”며 “글로벌기업과 AI에 대해 끊임 없이 고민하고 협력을 모색하겠다”고 말했다.

☞ 본 기사는 <머니S> 제571호(2018년 12월19~25일)에 실린 기사입니다.