기금넷 공식사이트 - 금 선물 - Xinyi 과학 기술 왕 chunping: 가치 제일 인공 지능 알고리즘 개발
Xinyi 과학 기술 왕 chunping: 가치 제일 인공 지능 알고리즘 개발
금융과학기술기업 신의과학기술그룹의 대표이자 인공지능 분야에서 탁월한 성과를 거둔 여성 종사자인 왕춘평 박사는 인공지능 연구와 응용에서 데이터 윤리와 성평등에 대한 그녀의 견해와 건의를 천명했다.
인공지능 시대가 가속화되고 있으며, 성평등을 촉진하는 것이 발전의 전제조건이다.
1956 인공지능이 제기된 이후 60 여 년 만에 이 과학기술의 급속한 발전은 인류 사회에 큰 변화를 가져왔다. 인공지능 알고리즘은 수학적 또는 컴퓨터 코드로 표현된 의견으로, 예측 결과는 알고리즘 모델과 데이터 입력에 의해 결정됩니다.
인공지능 시대가 가속화됨에 따라 인류는 알고리즘 유비쿼터스 세계에 살게 될 것이다. 알고리즘 결정이 개입하고 인간 사회사무를 주도하기 시작하면서 알고리즘은 인류의 생활과 미래에 헤아릴 수 없는 영향을 미칠 것이다. 이를 바탕으로 사람들은 알고리즘 편차가 가져올 수 있는 윤리적 위험에 주목하기 시작했다. 성별적으로만 볼 때 인공지능 분야는 여전히 남성을 주도하고 있기 때문에 인공지능 알고리즘의 일상적인 응용에서' 성차별' 에 대한 논란을 무의식적으로 일으키기 쉽다.
이날 발표된' 인공지능 알고리즘 양성평등 촉진' 보고서 (이하' 보고서') 에 따르면 인공지능 알고리즘의 많은 응용 시나리오에는 성차별이 있었다. 인공지능 오픈 플랫폼의 경우' 과일바구니를 든 남자' 사진 한 장이 AI 얼굴 인식 플랫폼에 의해' 여자' 로 검출됐지만 프로필 사진을 따로 자르면' 남자' 로 감지된다. 취업장면에서 20 18 년 아마존의 자동채용 알고리즘은' 여성' 키워드가 있는 이력서에 낮은 점수를 매기는 경향이 있어 여성 구직 성공률을 낮추고 결국 채용 알고리즘을 포기했다.
심이과학기술수석과학자 왕춘평은 "인공지능 알고리즘의 기초는 데이터지만 현실적으로는 여러 가지 이유로 대량의 침전된 데이터 분포가 편향되어 사회적 편견을 알고리즘에 침투시킬 수 있다" 고 말했다. 인공지능 알고리즘의 여성 종사자로서, 나는 이러한 편견을 없앨 수 있는 여러 가지 방법이 있다고 생각한다. "
편견과 차별을 없애는 것은 데이터 알고리즘 종사자들의 새로운 과제이다.
20 19 년, 국가 차세대 인공지능지배구조 전문위원회는' 차세대 인공지능지배원칙-개발 책임있는 인공지능' 을 발표하고 인공지능통치의 틀과 행동지침을 제시하며 데이터 수집, 알고리즘 설계, 기술 개발, 제품 개발 및 응용 과정에서 편견과 차별을 없애자고 명시했다. 최근 이 위원회는' 차세대 인공지능 윤리 규범' 을 발표했다. 제 13 조는 특히 편견과 차별을 피하는 것을 강조한다. 데이터 수집 및 알고리즘 개발에서 윤리적 검토를 강화하고, 차별화 요구를 충분히 고려하며, 가능한 데이터 및 알고리즘 편차를 피하고, 인공 지능 시스템의 포용성, 형평성 및 비차별성을 실현하기 위해 노력합니다.
"알고리즘에는 성차별 문제가 있는데, 주로 훈련 AI 의 데이터 세트는 인간 사회의 성별 편견을 반영하고, 알고리즘 엔지니어는 이 문제에 대한 인식이 부족하고, 성편견을 개발 수요에 포함시키지 않아 알고리즘이 성차별을 확대시켰기 때문이다." 마나 데이터 재단 연구팀 전문가 쿠쿤이 말했다.
보고서에 따르면 인공지능 알고리즘 종사자의 58% 는 알고리즘에 성별 편견이 있다는 것을 모르고, 종업원의 73% 는 여성을 위한 악성 알고리즘이 있다는 것을 알지 못하는 것으로 나타났다. 종업원의 알고리즘 양성 평등 의식과 능력은 시급히 향상되어야 한다.
왕춘평 박사는 "인공지능 알고리즘에서 성평등을 최대한 촉진하기 위해서는 개발자의 의식과 환경 배양부터 시작할 필요가 있다고 생각한다" 고 말했다. 예를 들어, 신의과학기술그룹 내에서는 다양한 성별 직원들의 동등한 기회를 확보하고 증진하는 회사 정책이 많이 있습니다. 예를 들어, 우리는 비교적 정교한 인공지능이나 디지털 앱과 관련된 교육 과정을 가질 것이다. 이러한 과정에는 비즈니스 시나리오, 알고리즘 학습 및 엔지니어링 착지가 포함되며, 모든 직책의 직원을 대상으로 개방되며, 가능한 한 사내 인공 지능 알고리즘에 관심이 있는 직원들이 실험적 혁신 프로젝트에 참여하고 동등한 작업 기회를 제공할 수 있도록 지원합니다. 우리는 여성 직원들이 공정한 직업 기회를 확보하고, 알고리즘 개발팀을 위해 뚜렷한 성별 차이가 없는 환경을 조성하고, 알고리즘 엔지니어의 성별 편견을 의식적으로 없애고, 인공지능 알고리즘이 응용에서 가능한 양성 평등을 실현하는 데 도움이 된다고 생각한다. "
상업과 윤리의 균형, 가치관이 선행하는 인공지능 알고리즘의 미래
인공지능 알고리즘의 독특한 운영 논리로 인해 사람들의 사회생활 구조 장면이 크게 바뀌면서 의사결정자와 상대인 간의' 디지털 격차' 가 심화되고 있다. 인공지능 알고리즘의 독특한 운행 논리는 과거의 생산 방식과 생활 방식을 심각하게 변화시키고 있으며 사람들의 행동과 주도적인 관계를 형성하고 있다. 이것은 또한 사람의 행동이 데이터 알고리즘에 의해 예측되거나 바뀔 수 있다는 것을 의미한다.
기업에 있어 인공지능 알고리즘의 정확성은 상업적 행동의 실행에 대한 정확한 예측을 제공하지만, 알고리즘 개발로 인한 윤리적 문제와 성차별도 기업이 고려해야 할 문제이다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 과학명언)
왕춘평 박사는 지금까지도 인공지능 알고리즘이 여전히 응용 중의 상관관계에 반영되어 있으며 개발 과정에서 고려되는 요소는 의사결정 결과와만 관련이 있다고 보고 있다. (윌리엄 셰익스피어, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능) 많은 응용 프로그램에서 성별은 관련 간섭 항목일 수 있습니다. 편견을 없애고, 성별을 공평하게 대하며, 최종 상업적 판단의 정확성에 영향을 주지 않는 것은 큰 도전이다. 현재, 이 문제는 이미 사람들의 관심을 끌었고, 이 문제를 다른 각도에서 해결하려는 시도도 많다. 예를 들어, 인과추리 이론에 근거하여 예상 예측 결과와 직접적인 인과관계가 있는 요소를 찾는 것과 같다. 혁신적인 피쳐 표현 공간을 구축하여 성별 차이 등 편파적 요소를 억제했다.
"상업적 행동에 따라 선호도와 편견의 경계를 결정하기가 어려운 경우가 많지만, 알고리즘의 혁신적인 발전 과정에서 알고리즘 엔지니어가 인공지능으로서 올바른 가치관을 가지고 있다면, 그는 가능한 한 빨리 차별과 편견의 존재를 검토하고 감지할 수 있으며, 알고리즘의 끊임없는 업데이트를 통해 그 문제를 조정할 수 있습니다. 이것은 알고리즘 개발자로서의 우리의 사명과 책임이자 인공지능 알고리즘의 발전을 위한 중요한 전제 조건이다. " 왕 chunping 는 말했다.
신업 과학기술은 국내 최고의 금융과학기술 기업 중 하나로 과학기술 응용과 사회 발전의 융합과 발전, 특히 인공지능 분야를 추진하는 데 주력해 왔다. 신노 기술은 개발 과정에서 성다양성의 관점을 통합함으로써 알고리즘의 성평등을 추진하기 위해 최선을 다하고 있다. 기업으로서 신노 기술은 내부 기술 발전에서 객관적인 인식과 이성적 반성을 촉진하여 과학 기술 발전을 더욱 잘 추진하기 위해 노력하고 있다. 앞으로 심이기술은 지속적인 기술 혁신을 통해 올바른 가치관을 확립하고 인공지능 시대의 성평등을 촉진하는 데 도움을 줄 것이다.