Xinye Technology의 Wang Chunping: 가치 우선의 인공 지능 알고리즘 개발

지난 9월 27일, 마나데이터재단이 주최한 '인공지능 알고리즘의 성평등 증진' 보고서 컨퍼런스 및 정책세미나가 중국 상하이에서 유엔 여성 사무국 수석 프로젝트 책임자 마레이쥔(Ma Leijun)에게 열렸다. 중국에서는 상하이푸동신구여성연맹 부회장 궈윈단, 마나데이터재단 장웨이 사무총장, 마나데이터재단 전문리더 저우뤼준, 마나데이터재단 연구팀 전문가 광쿤 등이 참석했다. Xinye Group Wang Chunping의 최고 알고리즘 과학자 Zhu Xi와 Thought Works(중국) 데이터 인텔리전스 팀 Ren Tianshi의 솔루션 설계자를 포함하여 각계각층의 손님을 소집하는 Xiaomi 그룹 과학 기술 위원회의 기술을 위한 기술이 이번 회의에 참석했습니다. 인공지능 알고리즘에서 성평등을 촉진하는 방법에 대해 논의합니다.

금융 기술 회사 Xinye Technology Group의 대표이자 인공 지능 분야에서 뛰어난 업적을 이룬 여성 실무자 인 Wang Chunping 박사는 데이터 윤리 및 데이터 윤리에 대한 자신의 견해를 다음과 같이 설명했습니다. 회의에서 인공지능의 연구와 적용에 대한 관점과 권고.

인공지능 시대가 가속화되고 있으며, 양성평등 증진이 발전의 전제이다

1956년 인공지능이 제안된 이후 불과 60여년 만에 이 과학기술은 급속도로 발전하여 인류사회에 상당한 변화를 가져왔습니다. 인공 지능 알고리즘은 수학적으로 또는 컴퓨터 코드로 표현된 의견으로, 알고리즘 모델과 데이터 입력이 예측된 결과를 결정합니다.

인공지능 시대가 가속화되면서 인간은 알고리즘이 편재하는 세상에 살게 될 것이다. 알고리즘의 의사결정이 인간의 사회 문제에 개입하고 지배하기 시작하면 알고리즘은 헤아릴 수 없을 만큼 큰 영향을 미칠 것이다. 인간의 삶과 미래. 이를 바탕으로 알고리즘 편향으로 인해 발생할 수 있는 윤리적 리스크도 사람들의 관심을 끌기 시작했습니다. 성별 관점에서만 볼 때 인공지능 분야는 여전히 남성이 장악하고 있기 때문에 인공지능 알고리즘은 일상생활에서 무의식적으로 '성차별' 논란이 일어나기 쉽다.

이날 공개된 '인공지능 알고리즘의 성평등 증진' 보고서(이하 '보고서')에 따르면, 인공지능 알고리즘의 여러 적용 시나리오에는 어느 정도 성차별이 존재하는 것으로 나타났다. 인공지능 오픈 플랫폼을 예로 들면, '과일바구니를 들고 있는 남자' 사진은 AI 얼굴인식 플랫폼에서 '여성'으로 감지됐지만, 프로필 사진만으로는 '남성'으로 감지될 수 있었다. 채용 시나리오에서는 2018년 아마존의 자동 채용 알고리즘이 '여성'이라는 단어가 포함된 이력서에 낮은 점수를 주는 경향이 있어 여성 입사 지원 성공률이 낮아지고 결국 채용 알고리즘을 포기했습니다.

Xinye Technology의 왕춘핑(Wang Chunping) 수석과학자는 “인공지능 알고리즘의 기본은 데이터이지만 실생활에서는 여러 가지 이유로 축적된 데이터의 분포가 편향된 경우가 많다. 사회의 일부 문제. 편견은 알고리즘에 침투합니다. 인공지능 알고리즘의 여성 실무자로서 저는 이러한 편견을 다양한 방법으로 제거해야 한다고 생각합니다.”

데이터의 새로운 주제입니다.

2019년 국가신세대인공지능 거버넌스 전문위원회는 인공지능 거버넌스에 대한 프레임워크와 실행 가이드를 제안한 『신세대 인공지능 거버넌스 원칙 - 책임 있는 인공지능 개발』을 발표했다. 그리고 데이터 수집, 알고리즘 설계, 기술 개발, 제품 개발 및 응용 프로세스에서 편견과 차별을 제거해야 함을 분명히 명시했습니다. 위원회는 최근 '차세대 인공지능 윤리강령' 13조를 발표했는데, 특히 데이터 수집과 알고리즘 개발에 있어 차별적인 매력을 충분히 고려하고 데이터와 알고리즘 간의 충돌 가능성을 피하기 위해 편견과 차별의 회피를 강조하고 있습니다. . 편견을 갖고 인공지능 시스템의 포용성, 공정성, 비차별을 달성하기 위해 노력합니다.

“알고리즘의 성차별 문제는 주로 AI 훈련을 위한 데이터 세트가 인간 사회에 존재하는 성 편견을 반영한다는 사실에서 비롯됩니다. 그러나 알고리즘 엔지니어들은 이 문제에 대한 인식이 부족하고 이를 포함하지 않습니다. Mana Data Foundation 연구팀의 전문가인 Kuang Kun은 “성별 편견을 개발 요구 사항으로 해결하여 알고리즘이 성 차별을 증폭시키는 것”이라고 말했습니다.

'보고서'의 특별 사회조사 자료에 따르면, 인공지능 알고리즘 실무자의 58%는 알고리즘의 성별 편견 문제를 인지하지 못하고 있으며, 실무자의 73%는 알고리즘의 성별 편견 문제에 대해 인지하지 못하고 있는 것으로 나타났다. 특히 여성을 겨냥한 악의적인 의도입니다. 실무자들의 알고리즘 분야 성평등에 대한 인식과 역량 제고가 시급합니다.

왕춘핑 박사는 “인공지능 알고리즘에서 성평등을 최대한 도모하려면 먼저 개발자의 인식과 환경 조성부터 시작해야 한다고 생각한다. 예를 들어 신예테크놀로지 내에서는 그룹에는 다양한 성별의 직원에게 동등한 기회를 보장하고 장려하는 회사가 많습니다. 예를 들어, 인공 지능 또는 디지털 응용 분야와 관련된 교육 과정에는 비즈니스 시나리오, 알고리즘 학습 및 교육 과정이 포함됩니다. 모든 직위의 직원에게 개방되며, 인공지능 알고리즘에 관심이 있는 사내 직원들이 일부 실험적인 혁신 프로젝트에 참여하고 평등한 취업 기회를 제공할 수 있도록 최선을 다할 것입니다.

우리는 여성 직원에게 공정한 경력 기회를 보장하고, 알고리즘 개발팀에 명백한 성별 차별이 없는 환경을 조성하며, 알고리즘 엔지니어 간의 성별 편견을 의식적으로 제거하는 것이 인공 지능 알고리즘 적용에 있어 성 평등을 최대한 달성하는 데 도움이 된다고 믿습니다. ”

비즈니스와 윤리의 균형, 가치가 먼저인 인공지능 알고리즘의 미래

인공지능 알고리즘의 독특한 작동 로직은 구조적인 면에서 큰 변화를 가져왔다 인공지능 알고리즘의 독특한 작동 논리로 인해 의사결정자와 상대방 사이의 '디지털 격차'가 근본적으로 변화하고 있으며, 이는 과거의 생산 방식과 라이프 스타일을 근본적으로 변화시키고 인간 행동과 지배적인 관계를 형성하고 있습니다. . 이는 또한 데이터 알고리즘의 도움으로 사람들의 행동을 예측하고 심지어 변경할 수도 있음을 의미합니다.

기업의 경우 인공 지능 알고리즘의 정확성이 비즈니스 행동 실행에 대한 정확한 예측을 제공합니다. 시간이 지나면서 알고리즘의 개발은 윤리적 문제를 가져오고, 성차별도 기업이 고려해야 할 문제입니다.

Wang Chunping 박사는 지금까지 인공 지능 알고리즘의 적용이 여전히 상관 관계, 요인을 반영한다고 믿습니다. 많은 응용 프로그램에서 성별은 관련 간섭 항목이 될 수 있습니다. 최종 결과에 영향을 주지 않고 다양한 성별을 공정하게 처리하는 방법이 중요합니다. 현재 이 문제는 인과적 추론 이론을 기반으로, 기대되는 예측 결과와 직접적인 인과 관계가 있는 요인을 혁신을 통해 찾는 등 다양한 각도에서 해결하려는 시도가 많이 이루어지고 있습니다. 성별로 인한 차이와 같은 특정 편향된 요인을 억제하기 위해 특징 표현 공간을 구성합니다.

"많은 경우 비즈니스 행동을 기반으로 알고리즘의 선호도와 성능을 결정하는 것이 어렵습니다. 그러나 어떤 경우에는 알고리즘 혁신과 개발 과정에서 인공지능 알고리즘 엔지니어로서 올바른 값을 가지고 있다면 차별과 편견의 존재를 최대한 사전에 조사하고 탐지하여 좋은 결과를 얻을 수 있습니다. 알고리즘의 지속적인 업데이트를 사용하여 조정합니다. 이로 인해 발생하는 문제는 알고리즘 개발자로서의 우리의 사명이자 책임이며 인공 지능 알고리즘 개발을 위한 중요한 전제 조건이기도 합니다. ” Wang Chunping은 말했습니다.

Xinye Technology는 중국 최고의 금융 기술 회사 중 하나로 특히 인공 지능 분야에서 기술 응용 프로그램의 통합 및 개발과 사회 발전을 촉진하는 데 전념해 왔습니다. Xinye Technology는 개발 과정에서 성별 다양성의 관점을 고려하고, 기업으로서 기술 개발을 더욱 촉진하기 위해 객관적인 이해와 합리적 반성을 촉진하기 위해 최선을 다합니다. 앞으로도 신예테크놀로지는 지속적인 기술 혁신을 통해 올바른 가치를 확립하고 인공지능 시대의 성평등 증진에 기여하겠습니다.