[바낭] 인공지능 관련 기사를 읽다가 쌩뚱맞게...

http://www.sisain.co.kr/?mod=news&act=articleView&idxno=32570

요 기사입니다만.

정확히는 그냥 인공지능이 아니라 자동 번역 기술 관련해서 한국의 한 학자가 혁신을 가져왔다... 는 내용과 함께 그 분(조경현 교수)을 소개하는 내용의 기사인데요. 뭐 인공지능 4대 천왕(...)이 천재라고 극찬을 했다느니 주목해야할 인물로 꼽았다느니 그런 내용이 막 나오다가 본인 인터뷰로 넘어가니 이런 내용이 튀어나오네요. 

 - 사람들이 실제로 생산하는 데이터에는 차별과 편견이 드러날 수 있다. 그런데 인공지능은 그 데이터로 학습을 한다. 조경현 교수는 간단한 사례를 들어 설명했다. “한국어에서는 대통령이라고 쓰면 남자와 여자 모두 포괄합니다. 그런데 유럽 쪽 언어에는 성별이 붙잖아요? 기계번역을 하면 ‘Mr. President’라고 해서 남자로 만들어버려요. 누적된 데이터에서는 대통령 앞에 ‘미스터’가 붙을 확률이 높기 때문이죠.”

 - 위 <그림 3>은 데이터가 편향되면 어떤 일이 벌어지는지 보여준다. 이미지 식별 인공지능은 왼쪽에 있는 백인 여성의 결혼식 사진은 ‘결혼식’ ‘드레스’ 등으로 제대로 인식하는 반면, 오른쪽에 있는 인도 여성의 결혼식 사진은 ‘행위예술’ ‘시대극 복식’ 등으로 엉뚱하게 인식한다. 이미지 식별 인공지능은 주로 1400만 개 이상의 사진을 보유한 ‘이미지넷’의 데이터로 학습한다. 그런데 ‘이미지넷’의 사진은 53%가 미국과 영국에서 나온다. 반대로 중국과 인도의 인구를 합치면 세계 인구의 36%에 이르는데, ‘이미지넷’에서 차지하는 비중은 3%다. 이렇게 데이터 자체에서 발생하는 편견을 제거하는 일이 인공지능 연구에서 중요한 과제다.

 - 조경현 교수는 올해 6월 한국을 방문해, 자연어 처리를 주제로 8시간짜리 대형 강연을 했다. 조 교수는 강연료 1000만원을 여성 과학기술인 지원 소셜 벤처 ‘걸스로봇’에 기부했다. “여성과 성소수자 과학자 육성에 써달라”라는 이유를 밝혀 화제가 되었다. 프랑스 그르노블에서 만나 한참 동안 기술적인 설명을 듣던, 정확히는 거의 못 알아듣던 중에 기자는 그 에피소드가 떠올랐다. 기술 설명에서 도망칠 겸 가볍게 기부 이야기를 물었다. 돌아온 답변은 90분 대화 전체에서도 손꼽히게 인상적이었다.

“특별히 여성과 성소수자 과학자를 지목한 이유가 있습니까?” “두 가지 문제가 있어요. 첫째, 인공지능 테크놀로지가 앞으로 10년이나 20년만 지나면 모든 사람이 쓰는 기술이 될 거예요. 그런 기술이 시작부터 인구의 절반을 배제하고 간다면, 인류 차원에서 말이 안 되죠. 억지로라도 모든 사람이 혜택을 누릴 수 있도록 해야 하니까, 조금이라도 도움이 되고 싶었습니다.”

“두 번째는 뭔가요?” “데이터에 편향이 있을 때 알고리즘도 그걸 증폭시킬 수 있다고 말씀드렸지요? 알고리즘 기술을 더 발전시켜서 보정하든 데이터 자체를 보정하든, 어쨌든 보정을 해야 하잖아요. 그러려면 우선 편향이 눈에 들어와야 합니다. 그런데 전 세계 데이터과학자 커뮤니티가 백인 남자 아니면 아시안 남자, 둘이죠. 이러면 편향이 눈에 안 보여요. 얼굴 인식 시스템이 백인 남성, 아시안 남성은 비교적 잘 됩니다. 그런데 아시아 여성은 형편없이 안 돼요. 이런 논문이 구글의 어느 연구팀에서 나왔는데, 그 팀을 주도한 연구자들이 여성 과학자들이었어요. 흑인도 있었고요. 그 사람들 눈에는 보이거든요 편향이. 우리 연구자 커뮤니티의 다양성을 높여야 합니다. 인공지능이 계속 사회적 문제를 일으키면서, 연구 자체가 위협받지 않으려면 말이지요.” 

전혀 모르는 분야의 방금 처음 알게 된 분이지만 되게 멋진 분인 것 같은 느낌적인 느낌이(...)

인종 차별, 성 차별 인공지능의 도래를 막기 위해 노력한다니 무슨 터미네이터 스토리의 학자판 같기도 하고 그렇습니다. ㅋㅋㅋ