미국은 물론 세계적으로 인종차별 반대 시위가 한창인 가운데, IBM이 대형 기술기업 중에는 처음으로 안면인식 시스템을 포기하겠다고 발표했다. 이어서 아마존과 마이크로소프트도 IBM의 뒤를 따랐다. 3개 기술 기업 모두 더 이상 미국에서 이 치안용 기술을 공급하지 않기로 결정을 내린 것이다.
ⓒGetty Images Bank
기술 분야에서 영향력이 큰 기업의 이러한 결정은 안면인식 기술을 치안과 사회 곳곳의 다른 분야에 어떻게 사용할지에 관심을 집중시켰다. 안면인식 기술은 유색 인종의 얼굴을 중심으로 얼굴 매칭이 부정확해 인종적 편견을 초래한다는 공격을 받았었다. 가트너의 닉 잉겔브레츠트 조사 담당 디렉터는 <CMO>에 IBM의 결정 하나가 큰 변화나 차이를 가져오지는 않는다고 말했다. 안면인식 시장이나 물리적 보안 시장에서 큰 영향력을 발휘한 기업이 아니었기 때문이다. 그렇지만 이러한 움직임은 인권 침해의 소지가 있는 기술 문제를 해결하려는 큰 변화의 일부다. 그는 “구글, AWS, 마이크로소프트, IBM 같은 대기업은 논란의 여지가 있는 자사의 기술 사용에 관한 평판을 의식하고 있으며 안면인식 기술을 점점 더 피하고 있다”라고 말했다. 그러면서 향후 소비자 사례에서 안면인식 기술이나 성별과 인종, 기타 편향적이거나 인권 침해적인 기술과 데이터세트의 잠재적인 용도에 관한 중대한 질문이 제기되고 있다. IBM과 아마존의 움직임에 대한 질문 IBM의 CEO 아르빈드 크리슈나는 미국 의회에 보내는 인종차별과 관련된 사법 개혁 문제에 대한 서한에서 IBM은 다른 업체들이 공급하는 안면인식 기술을 포함, 일반 대중 감시, 인종적인 프로파일링, 기본 인권과 자유 침해, 기타 신뢰와 투명성의 가치에 부합하지 않는 목적으로 기술이 사용되는 것을 반대한다고 강조했다. 크리슈나는 “우리는 지금이야말로 국가적인 차원에서 국내의 법 집행기관들이 안면인식 기술을 사용할지 여부, 그 방법에 대한 대화를 시작할 시기라고 믿는다. 인공 지능(AI)은 법 집행기관이 시민의 안전을 보장하는 데 도움을 줄 수 있는 강력한 도구이다. 그러나 AI 시스템 업체와 사용자는 법 집행 분야에서 사용될 때를 중심으로 AI에 편향이 없도록 검증하고, 이런 편향에 대한 검증 절차 및 결과를 감사받고 보고하도록 공동 책임을 져야 한다. 마지막으로 국가 정책을 통해 바디 카메라와 최신 데이터 분석 기법같이 치안에 사용되는 기술의 투명성과 책임을 높이는 기술을 발전시키고, 이의 사용을 장려해야 한다”라고 설명했다. 아마존은 경찰 제복에 사용되는 자사의 안면인식 플랫폼인 ‘레코그니션(Rekognition)’ 지원을 1년 동안 중단한다고 발표했다. 그러나 다른 조직에는 이 기술을 계속 공급할 계획이라고 덧붙였다. 아마존은 얼굴 대조 기술이 어떻게 좋은 일에 사용될 수 있는지 강조하려는 듯, 쏜(Thorn), ICMEC(International Center for Missing and Exploited Children), 마리너스 애널리틱스(Marinus Analytics)는 인신매매 피해자, 실종 아동 구조에 계속 레코그니션을 사용할 수 있다고 설명했다. 아마존은 짧은 블로그 게시글에서 “정부는 안면인식 기술을 윤리적으로 사용하는지 감독하는 강력한 규제를 도입해 이행해야 하며, 최근 의회가 이 도전과제를 극복하고자 준비하는 것으로 보인다. 우리는 1년 동안의 지원 중단을 통해 의회에 적절한 규칙을 도입할 충분할 시간을 줄 수 있으리라 판단한다. 요청이 있다면 우리는 도울 준비가 되어있다”라고 설명했다. 주주들과 함께 기술 분야 기업들의 책임 의식을 촉진하기 위해 노력하고 있는 비영리 단체인 오픈 마이크(Open MIC)에 따르면, 몇 년 동안 아마존은 규제를 받지 않는 유해한 기술을 경찰에 판매하는 일을 중단하라고 촉구해왔다. 이 단체의 마이클 코너 대표는 아마존의 이런 발표를 환영했다. 그러나 “이는 일시적인 중단에 불과하고, 급격히 발전하고 있는 감시 경제에서 아마존의 역할에 대한 주주들의 깊은 걱정을 해소하지 못한다”라고 지적했다. 오픈마이크에 따르면, 이 발표가 있기 2주 전 아마존의 독립 주주들은 2개의 결의안을 40% 찬성으로 가결했다. 레코그니션과 아마존의 링 도어벨 기술, 기타 감시용 제품들이 인권과 평등권을 침해하는 데 대한 우려를 제기한 결의안들이었다. 코너는 MIT의 연구 결과를 인용, 아마존 레코그니션 기술에 성별과 인종에 대한 편향이 있으며, 백인과 비교했을 때 여성과 유색 인종을 잘못 인식하는 경향이 더 강하다고 지적했다.
--------------------------------------------------------------- 안면 인식 인기기사 ->안면 인식 기술의 발전··· 프라이버시는 이제 글렀는가? -> "얼굴인식기술의 프라이버시 침해 가능성은 기우일 뿐" AFP 연구원 -> 상상 초월' 개인정보 침해 기술 12가지 -> ‘이상하고 아름다운’ 하이테크 발명품 ->로레알, '안면인식+증강현실' 가상 메이크업 앱 출시 ->페이스북 얼굴 인식 논란, ‘기우'가 아닌 이유 ->칼럼 | 안면 인식 기술이 우려스러운 이유 ---------------------------------------------------------------
코너는 아마존의 고위 경영진과 이사들에게 “아마존은 규제를 지지하고, 이런 기술들이 차별과 같은 부정적인 영향을 초래할 수 있다는 점을 인정하고 있다. 그러나 한편에서는 규제를 받지 않는 환경에서 레코그니션을 판매하면서 이런 영향이 초래될 위험을 감수하고 있다. 이 2가지가 일치되지 않는다”라고 지적했다.
원문보기:
http://www.ciokorea.com/news/155826#csidx4afdb361437e49587d83295f6dcb335