Google 사고(GOOGLE에 문제가 발생함)

Gebru 지지자들은 Google의 정책이 "불균일하게 시행되고 차별적"이라고 말했습니다.

최근 기술계에 큰 사건이 터졌다. 유명 AI 학자이자 인공지능 윤리 연구자 중 한 명인 팀닛 게브루(Timnit Gebru)가 구글에서 돌연 해고돼 물의를 빚었다.

팀닛 게브루(Timnit Gebru)는 스탠포드 대학을 졸업하고 리 페이페이(Li Feifei) 밑에서 공부했다. 그녀는 AI 윤리 분야의 몇 안 되는 흑인 여성 리더 중 한 명이다. 뿐만 아니라 많은 젊은 학자들의 멘토이기도 합니다.

2018년 그녀의 가장 잘 알려진 연구에서는 안면 인식 소프트웨어의 오류율이 흑인 여성의 경우 최대 35%인 반면, 백인 남성의 경우 거의 완전히 정확하다는 사실이 밝혀졌습니다.

그러나 Gebru은 논문이 Google의 내부 검토를 충족하지 않았기 때문에 Google이 일방적으로 기각했다고 주장했습니다. 논문으로 인한 논란

약 일주일 전 게브루는 구글의 AI 시스템을 비판하는 연구 논문을 공동 집필한 뒤 구글에서 해고됐다고 발표했다.

하지만 구글은 논문 심사가 구글의 요구 사항을 충족하지 않았기 때문에 게브루의 개인 사직 신청을 받아들이겠다고 밝혔습니다.

외신 보도에 따르면 논문 제목은 "확률적 앵무새의 위험성: 언어 모델이 너무 클 수 있는가?"(확률적 앵무새의 위험성: 언어 모델이 너무 클 수 있는가?) Google에서 발행 *** 내부 팀과 외부 연구원이 공동 집필한 이 보고서는 기술 기업이 AI 글쓰기와 음성 인식이 차별을 악화시키지 않도록 더 많은 조치를 취해야 한다고 주장했습니다.

이 논문에서 Google BERT(자연어 처리 시스템)가 AI 윤리에 미치는 부정적인 영향에 대해 이야기하고 있다는 점은 주목할 가치가 있습니다.

초반에는 양측의 분쟁이 검토 과정이었다. 구글의 논문 게재 절차에 따르면 게브루는 마감 하루 전이 아닌 2주 전에 논문을 제출해야 했다.

그러나 Gebru 팀은 검토 정책이 유연하게 설계되었으며 대부분이 Google AI 수석 Jeff Dean이 현재 제시한 구조를 따르지 않는다고 말하면서 이러한 평가에 이의를 제기했습니다. 팀이 수집한 데이터에 따르면 대다수의 승인이 마감일 이전에 이루어졌고, 41%는 마감일 이후에 이루어진 것으로 나타났습니다. 그들은 다음과 같이 썼습니다: "논문이 실제로 2주 이내에 이 검토를 통과해야 한다는 엄격한 요구 사항은 없습니다."

동시에 Dean은 해당 논문이 "너무 많이 무시했기 때문에 기준을 충족하지 못한다고 판단했습니다." 관련 연구'를 요청하여 그녀는 논문을 철회하거나 Google 직원의 이름을 삭제했습니다.

Times에 따르면 Gebru은 논문을 철회하기 전에 Google과 추가 논의를 요청했습니다. Gebru은 자신의 우려 사항이 해결되지 않으면 Google에서 사임하겠다고 말했습니다.

그러자 Google은 Gebru에게 회사가 그녀의 조건을 충족할 수 없으며 그녀의 사임을 즉시 받아들이겠다고 말했습니다.

Dean은 또한 Gebru이 동료들에게 Google의 DEI(다양성, 형평성 및 포용성) 프로젝트에 참여하지 않도록 선동한 것에 실망했다고 말했습니다.

곧 Gebru은 자신의 회사 계정에 더 이상 로그인할 수 없다는 사실을 알게 되었고, 이는 자신이 해고되었음을 의미했습니다. 퇴임 후 혼란

퇴임 후 1,400명 이상의 Google 직원과 1,800명 이상의 기타 업계 전문가가 Gebru을 지지하는 공개 서한에 서명했습니다.

"Gebru 박사는 뛰어난 재능과 다작의 공헌자로 칭찬받기는커녕 방어적인 태도, 인종차별, 연구 검토를 거쳐 이제 보복적인 해고를 당했습니다."

Gebru을 변호한 전 동료와 외부 업계 연구원들은 Google이 이 사건에서 규칙을 더 엄격하게 시행하기 위해 임의로 행동했는지 의문을 제기했습니다.

한 전직 Google 직원은 "나는 @timnitGebru을 지지합니다"라고 트윗했습니다.

이번 사건은 구글 경영진과 일부 일반 직원들 사이의 긴장감을 증폭시키기도 했다.

게브루가 자신의 사임을 트윗한 날, 구글은 미국 노동법을 위반하여 활동가 직원들을 감시하고 심문하고 해고했다는 고소장을 통해 전국노동관계위원회(National Labor Relations Board)로부터 보복 혐의로 기소되었습니다.

Gebru의 퇴임은 인공 지능 윤리에 대한 Google의 노력에 대해 이미 우려하고 있는 사람들 사이에서 분노를 불러일으켰습니다. 구글은 지난해 AI윤리위원회를 꾸린 뒤 멤버들로부터 비난을 받아왔다. 불과 일주일 뒤 위원회는 해산됐다.