Xinye Technology의 Wang Chunping: 가치 우선의 인공 지능 알고리즘 개발

지난 9월 27일, 마나데이터재단이 주최한 '인공지능 알고리즘의 성평등 증진' 보고서 컨퍼런스 및 정책세미나가 중국 상하이에서 유엔 여성 사무국 수석 프로젝트 책임자 마레이쥔(Ma Leijun)에게 열렸다. 중국에서는 상하이푸동신구여성연맹 부회장 궈윈단(Guo Yundan), 마나데이터재단 장웨이(Zhang Wei) 사무총장, 마나데이터재단 전문 리더 저우루쥔(Zhou Lujun), 전문가 쾅쿤(Kuang Kun)을 비롯해 샤오미 그룹 과학기술위원회가 소집됐다. Zhu Xi, Xinye Group의 최고 알고리즘 과학자 Wang Chunping, Thought Works(중국) 데이터 인텔리전스 팀의 솔루션 설계자 Ren Tianshi 등 각계각층의 좋은 손님을 위한 기술 주제가 이번 회의에 참석하여 홍보 방법을 논의했습니다. 인공지능 알고리즘의 성평등.

금융 기술 회사 Xinye Technology Group의 대표이자 인공 지능 분야에서 뛰어난 업적을 이룬 여성 실무자 인 Wang Chunping 박사는 데이터 윤리 및 데이터 윤리에 대한 자신의 견해를 다음과 같이 설명했습니다. 회의에서 인공지능의 연구와 적용에 대한 관점과 권고사항.

인공지능 시대가 가속화되고 있으며, 양성평등 증진이 발전의 전제이다

1956년 인공지능이 제안된 이후 불과 60여년 만에 이 과학기술은 급속도로 발전하여 인류사회에 상당한 변화를 가져왔습니다. 인공 지능 알고리즘은 수학적으로 또는 컴퓨터 코드로 표현된 의견으로, 알고리즘 모델과 데이터 입력이 예측된 결과를 결정합니다.

인공지능 시대가 가속화되면서 인간은 알고리즘이 편재하는 세상에 살게 될 것이다. 알고리즘의 의사결정이 인간의 사회 문제에 개입하고 지배하기 시작하면 알고리즘은 헤아릴 수 없을 만큼 큰 영향을 미칠 것이다. 인간의 삶과 미래에 미치는 영향. 이를 바탕으로 알고리즘 편향으로 인해 발생할 수 있는 윤리적 리스크도 사람들의 관심을 끌기 시작했습니다. 성별 측면에서만 볼 때 인공지능 분야는 여전히 남성이 장악하고 있기 때문에 인공지능 알고리즘은 의식하지 못한 채 일상생활에서 '성차별' 논란을 일으키기 쉽다.

이날 발표된 '인공지능 알고리즘의 성평등 증진' 보고서(이하 '보고서')에 따르면, 현재 인공지능의 다양한 적용 시나리오에서 어느 정도 성차별이 존재하는 것으로 나타났다. 알고리즘. 인공지능 오픈 플랫폼을 예로 들면, AI 얼굴인식 플랫폼에서는 '과일바구니를 들고 있는 남자' 사진을 '여자'로 감지했지만, 프로필 사진의 컷아웃만으로도 '남자'로 감지할 수 있었다. ". 채용 시나리오에서는 2018년 아마존의 자동 채용 알고리즘이 '여성'이라는 단어가 포함된 이력서에 낮은 점수를 주는 경향이 있어 여성 입사 지원 성공률이 낮아지고 결국 채용 알고리즘이 폐기됐다.

Xinye Technology의 왕춘핑(Wang Chunping) 수석과학자는 “인공지능 알고리즘의 기본은 데이터이지만 실생활에서는 여러 가지 이유로 축적된 데이터의 분포가 편향된 경우가 많다. 사회의 일부 문제. 편견이 알고리즘에 침투하는 것. 인공지능 알고리즘의 여성 실무자로서 이러한 편견을 다양한 방법으로 제거해야 한다고 생각합니다.”

데이터의 새로운 주제입니다.

2019년 국가신세대인공지능 거버넌스 전문위원회는 인공지능 거버넌스에 대한 프레임워크와 실행 가이드를 제안한 『신세대 인공지능 거버넌스 원칙 - 책임 있는 인공지능 개발』을 발표했다. 그리고 데이터 수집, 알고리즘 설계, 기술 개발, 제품 개발 및 응용 프로세스에서 편견과 차별을 제거해야 함을 분명히 명시했습니다. 위원회는 최근 '차세대 인공지능 윤리강령' 13조를 발표했는데, 특히 데이터 수집과 알고리즘 개발에 있어 차별적인 매력을 충분히 고려하고 데이터와 알고리즘 간의 충돌 가능성을 피하기 위해 편견과 차별의 회피를 강조하고 있습니다. . 편견을 갖고 인공지능 시스템의 포용성, 공정성, 비차별을 달성하기 위해 노력합니다.

“알고리즘의 성차별 문제는 주로 AI 훈련을 위한 데이터 세트가 인간 사회에 존재하는 성 편견을 반영한다는 사실에서 비롯됩니다. 그러나 알고리즘 엔지니어들은 이 문제에 대한 인식이 부족하고 이를 포함하지 않습니다. Mana Data Foundation 연구팀의 전문가인 Kuang Kun은 "개발 요구 사항에서 성별 편견을 해결하여 알고리즘이 성 차별을 증폭시키게 합니다."라고 말했습니다.

'보고서'의 특별 사회조사 자료에 따르면, 인공지능 알고리즘 실무자의 58%는 알고리즘의 성별 편견 문제를 인지하지 못하고 있으며, 실무자의 73%는 알고리즘의 성별 편견 문제에 대해 인지하지 못하고 있는 것으로 나타났다. 특히 여성을 표적으로 삼는 악성 알고리즘. 알고리즘 분야의 성평등에 대한 실무자들의 인식과 역량 제고가 시급합니다.

왕춘핑 박사는 “인공지능 알고리즘에서 성평등을 최대한 도모하려면 먼저 개발자의 인식과 환경 조성부터 시작해야 한다고 생각한다. 예를 들어 신예테크놀로지 내에서는 그룹에는 다양한 성별의 직원에게 동등한 기회를 보장하고 장려하는 회사가 많습니다. 예를 들어, 인공 지능 또는 디지털 응용 분야와 관련된 교육 과정에는 비즈니스 시나리오, 알고리즘 학습 및 교육 과정이 포함됩니다. 모든 직위의 직원에게 열려 있으며, 인공지능 알고리즘에 관심이 있는 사내 직원들이 일부 실험적인 혁신 프로젝트에 참여할 수 있도록 돕고, 그들에게 평등한 취업 기회를 제공하기 위해 최선을 다할 것입니다. 여성 직원에게 공정한 경력 기회가 있다고 믿고 알고리즘을 제공하는 것은 개발팀에서 명백한 성별 차별이 없는 환경을 조성하고, 인공지능 알고리즘 적용에 있어서 성평등을 달성하기 위해 알고리즘 엔지니어 간의 성별 편견을 의식적으로 제거하는 것이 유익합니다." p>

비즈니스와 윤리의 균형. 가치를 먼저 생각하는 인공지능 알고리즘의 미래

인공지능 알고리즘의 독특한 작동 논리는 사람들의 사회 구조적 시나리오에 큰 변화를 가져왔습니다. 인공지능 알고리즘의 독특한 운영 논리는 이전의 생산 방식과 라이프스타일을 근본적으로 변화시키고 있으며 인간 행동과 지배적인 관계를 형성하고 있습니다. 이는 또한 데이터 알고리즘의 도움으로 사람들의 행동을 예측하고 변경할 수도 있음을 의미합니다.

기업에게는 인공지능 알고리즘의 정확성이 비즈니스 활동 수행에 대한 정확한 예측을 제공하지만, 동시에 알고리즘 개발로 인해 야기되는 윤리적 문제와 성차별 문제도 함께 안고 있는 문제이기도 하다. 기업은 고려해야합니다.

왕춘핑 박사는 지금까지 인공지능 알고리즘은 여전히 ​​대부분의 경우 개발 과정에서 고려되는 요소와 얻은 의사결정 결과가 상관관계일 뿐이라고 믿습니다. 많은 애플리케이션에서 성별은 관련 간섭 항목이 될 수 있습니다. 최종 비즈니스 판단의 정확성에 영향을 주지 않고 편견을 제거하고 다양한 성별을 공정하게 대우하는 방법은 큰 과제입니다. 현재 이 문제가 주목을 받고 있으며, 이 문제를 다양한 각도에서 해결하려는 시도가 많이 이루어지고 있습니다. 성별로 인한 차이와 같은 특정 편견 요인을 억제하여 특징 표현 공간을 확보합니다.

“많은 경우 비즈니스 행동을 기반으로 알고리즘의 선호와 편견 사이의 경계를 결정하는 것이 어렵지만 알고리즘의 혁신적인 개발 과정에서 인위적인 지능 알고리즘 엔지니어는 올바른 값을 염두에 두고 차별과 편견의 존재를 최대한 사전에 조사하고 탐지할 수 있으며 지속적인 알고리즘 업데이트를 잘 활용하여 이는 알고리즘 개발자로서 우리의 사명이자 책임이며, 인공지능 알고리즘의 개발이기도 합니다.”라고 Wang Chunping은 말했습니다.

중국 최고의 금융 기술 회사 중 하나인 Xinye Technology는 특히 인공 지능 분야에서 기술 응용 프로그램의 통합 및 개발과 사회 발전을 촉진하는 데 전념해 왔습니다. 알고리즘의 성평등을 장려하기 위해 최선을 다합니다.

기업으로서 Xinye Technology는 내부 기술 개발에 대한 객관적인 이해와 합리적인 반영을 촉진하여 기술 개발을 더욱 촉진하기 위해 최선을 다하고 있습니다. 앞으로도 신예테크놀로지는 지속적인 기술 혁신을 통해 올바른 가치를 확립하고, 인공지능 시대의 성평등 증진에 기여하겠습니다.