%EC%83%81%EA%B4%80%EA%B4%80%EA%B3%84
-
변화된 데이터에서 인공지능 공정성 찾아내다
인공지능 기술이 사회 전반에 걸쳐 광범위하게 활용되며 인간의 삶에 많은 영향을 미치고 있다. 최근 인공지능의 긍정적인 효과 이면에 범죄자의 재범 예측을 위해 머신러닝 학습에 사용되는 콤파스(COMPAS) 시스템을 기반으로 학습된 모델이 인종 별로 서로 다른 재범 확률을 부여할 수 있다는 심각한 편향성이 관찰되었다. 이 밖에도 채용, 대출 시스템 등 사회의 중요 영역에서 인공지능의 다양한 편향성 문제가 밝혀지며, 공정성(fairness)을 고려한 머신러닝 학습의 필요성이 커지고 있다.
우리 대학 전기및전자공학부 황의종 교수 연구팀이 학습 상황과 달라진 새로운 분포의 테스트 데이터에 대해서도 편향되지 않은 판단을 내리도록 돕는 새로운 모델 훈련 기술을 개발했다고 30일 밝혔다.
최근 전 세계의 연구자들이 인공지능의 공정성을 높이기 위한 다양한 학습 방법론을 제안하고 있지만, 대부분의 연구는 인공지능 모델을 훈련시킬 때 사용되는 데이터와 실제 테스트 상황에서 사용될 데이터가 같은 분포를 갖는다고 가정한다. 하지만 실제 상황에서는 이러한 가정이 대체로 성립하지 않으며, 최근 다양한 어플리케이션에서 학습 데이터와 테스트 데이터 내의 편향 패턴이 크게 변화할 수 있음이 관측되고 있다.
이때, 테스트 환경에서 데이터의 정답 레이블과 특정 그룹 정보 간의 편향 패턴이 변경되면, 사전에 공정하게 학습되었던 인공지능 모델의 공정성이 직접적인 영향을 받고 다시금 악화된 편향성을 가질 수 있다. 일례로 과거에 특정 인종 위주로 채용하던 기관이 이제는 인종에 관계없이 채용한다면, 과거의 데이터를 기반으로 공정하게 학습된 인공지능 채용 모델이 현대의 데이터에는 오히려 불공정한 판단을 내릴 수 있다.
연구팀은 이러한 문제를 해결하기 위해, 먼저 `상관관계 변화(correlation shifts)' 개념을 도입해 기존의 공정성을 위한 학습 알고리즘들이 가지는 정확성과 공정성 성능에 대한 근본적인 한계를 이론적으로 분석했다. 예를 들어 특정 인종만 주로 채용한 과거 데이터의 경우 인종과 채용의 상관관계가 강해서 아무리 공정한 모델을 학습을 시켜도 현재의 약한 상관관계를 반영하는 정확하면서도 공정한 채용 예측을 하기가 근본적으로 어려운 것이다. 이러한 이론적인 분석을 바탕으로, 새로운 학습 데이터 샘플링 기법을 제안해 테스트 시에 데이터의 편향 패턴이 변화해도 모델을 공정하게 학습할 수 있도록 하는 새로운 학습 프레임워크를 제안했다. 이는 과거 데이터에서 우세하였던 특정 인종 데이터를 상대적으로 줄임으로써 채용과의 상관관계를 낮출 수 있다.
제안된 기법의 주요 이점은 데이터 전처리만 하기 때문에 기존에 제안된 알고리즘 기반 공정한 학습 기법을 그대로 활용하면서 개선할 수 있다는 것이다. 즉 이미 사용되고 있는 공정한 학습 알고리즘이 위에서 설명한 상관관계 변화에 취약하다면 제안된 기법을 함께 사용해서 해결할 수 있다.
제1 저자인 전기및전자공학부 노유지 박사과정 학생은 "이번 연구를 통해 인공지능 기술의 실제 적용 환경에서, 모델이 더욱 신뢰 가능하고 공정한 판단을 하도록 도울 것으로 기대한다ˮ고 밝혔다.
연구팀을 지도한 황의종 교수는 "기존 인공지능이 변화하는 데이터에 대해서도 공정성이 저하되지 않도록 하는 데 도움이 되기를 기대한다ˮ고 말했다.
이번 연구에는 노유지 박사과정이 제1 저자, 황의종 교수(KAIST)가 교신 저자, 서창호 교수(KAIST)와 이강욱 교수(위스콘신-매디슨 대학)가 공동 저자로 참여했다. 이번 연구는 지난 7월 미국 하와이에서 열린 머신러닝 최고권위 국제학술 대회인 `국제 머신러닝 학회 International Conference on Machine Learning (ICML)'에서 발표됐다. (논문명 : Improving Fair Training under Correlation Shifts)
한편, 이 기술은 정보통신기획평가원의 지원을 받은 `강건하고 공정하며 확장가능한 데이터 중심의 연속 학습' 과제 (2022-0-00157)와 한국연구재단 지원을 받은 `데이터 중심의 신뢰 가능한 인공지능' 과제의 성과다.
2023.10.30 조회수 3850 -
김용훈 교수, 단일 분자 소자의 전극 계면 특성 규명
〈 김 용 훈 교수와 김후성 박사과정, 김한슬 박사 〉
우리 대학 EEWS 대학원 김용훈 교수 연구팀이 10년 이상 나노 분야 주요 난제로 남아있던 단일분자 전자소자의 금속전극-분자 계면 원자구조와 소자특성 간 상관관계를 규명했다.
이번 연구 성과는 국제 과학 학술지인 ‘미국 화학회지(Journal of the American Chemical Society)’ 6월 21일자에 게재됐다.
단일분자 전자소자는 OLED 등을 통해 알려진 유기소자로서 2003년 미국에서 처음 구현됐다. 분자전자소자(molecular electronics)는 차세대 반도체 소자의 후보군으로 관련 연구들이 활발히 수행되고 있다.
분자를 전자소자로 활용하기 위해선 분자-전극 형태의 원자구조가 구체적으로 어떻게 형성되는지 이해하는 것이 중요하다. 분자 전자소자는 크게 분자, 전극, 둘을 잇는 연결자로 구성된다.
2006년 미국 애리조나 대학의 타오(Nongjian Tao) 교수를 포함한 연구팀은 한 종류의 분자에서 여러 개의 전류 값이 나올 수 있음을 규명했으나 그 전류 값의 크기와 개수, 원인 등은 명확히 밝혀지지 않았다.
특히 그 원인에 대해서는 관련된 분자와 금속전극 간 계면의 원자구조가 여러 가지 형태를 띠고 있기 때문이라는 추측만 있었고 명확히 밝혀지지는 않았다.
김 교수 연구팀은 주사탐침현미경 등을 이용해 단분자 소자가 구현되는 과정을 슈퍼컴퓨터를 활용해 재현했다.
접합 구조의 여러 가지 형태를 찾는 것은 결국 황(S) 원자 주변의 금(Au) 원자 몇 개가 어떤 형태로 배열되는지 확인하는 것인데 이것을 배위수(coordination number)라고 부른다.
〈 김 용 훈 교수와 연구팀 〉
연구팀은 분자와 금속 전극 간 결합의 원자구조 배위수에 따라 금속전극 사이에서 전류 값이 변화하는 것을 확인했다. 또한 분자가 당겨질 때 단순히 금속과 분자 사이 결합이 끊어지는 게 아니라 금속전극의 원자구조가 쉽게 변형돼 결국은 금속과 금속 사이의 결합의 끊어지는 것을 규명했다.
일본 오사카 대학의 카와이(T, Kawai) 교수는 위와 같은 김 교수의 이론을 뒷받침하기 위해 소자 인장에 따른 전류의 증가를 포함하는 실험을 수행했다.
한, 일 공동연구팀은 슈퍼컴퓨터를 이용한 제1원리 계산과 첨단 나노소자 제조 및 측정을 통해 유기 소자의 계면 특성을 원자 수준에서 성공적으로 규명했다. 연구팀은 나노과학-나노기술 분야에서 10년 이상 풀리지 않던 난제를 해결했다.
이번 성과는 향후 OLED, 바이오센서, 유기태양전지 등 다양한 유기소자 분야에 활용 가능할 것으로 기대된다.
김 교수는 “이번 연구는 나노 분야에서 이론 연구가 실험을 선도하는 역할을 성공적으로 수행함을 보여주는 예가 될 것이다”고 말했다.
이번 연구는 미래창조과학부의 중견연구자지원사업, 글로벌프론티어사업, 나노소재기술사업과 KISTI 슈퍼컴퓨터의 지원을 받아 수행됐다.
□ 그림 설명
그림1. 분자 전기전도도 실험 측정방법의 개념도
그림2. 대표적인 세 가지 분자-금속전극 접합 원자구조와 이에 상응하는 외력에 따른 전도도 변화 패턴
2017.07.04 조회수 17818