< (왼쪽부터) 전기및전자공학부 황의종 교수, 노유지 박사과정 >
인공지능 기술이 사회 전반에 걸쳐 광범위하게 활용되며 인간의 삶에 많은 영향을 미치고 있다. 최근 인공지능의 긍정적인 효과 이면에 범죄자의 재범 예측을 위해 머신러닝 학습에 사용되는 콤파스(COMPAS) 시스템을 기반으로 학습된 모델이 인종 별로 서로 다른 재범 확률을 부여할 수 있다는 심각한 편향성이 관찰되었다. 이 밖에도 채용, 대출 시스템 등 사회의 중요 영역에서 인공지능의 다양한 편향성 문제가 밝혀지며, 공정성(fairness)을 고려한 머신러닝 학습의 필요성이 커지고 있다.
우리 대학 전기및전자공학부 황의종 교수 연구팀이 학습 상황과 달라진 새로운 분포의 테스트 데이터에 대해서도 편향되지 않은 판단을 내리도록 돕는 새로운 모델 훈련 기술을 개발했다고 30일 밝혔다.
최근 전 세계의 연구자들이 인공지능의 공정성을 높이기 위한 다양한 학습 방법론을 제안하고 있지만, 대부분의 연구는 인공지능 모델을 훈련시킬 때 사용되는 데이터와 실제 테스트 상황에서 사용될 데이터가 같은 분포를 갖는다고 가정한다. 하지만 실제 상황에서는 이러한 가정이 대체로 성립하지 않으며, 최근 다양한 어플리케이션에서 학습 데이터와 테스트 데이터 내의 편향 패턴이 크게 변화할 수 있음이 관측되고 있다.
이때, 테스트 환경에서 데이터의 정답 레이블과 특정 그룹 정보 간의 편향 패턴이 변경되면, 사전에 공정하게 학습되었던 인공지능 모델의 공정성이 직접적인 영향을 받고 다시금 악화된 편향성을 가질 수 있다. 일례로 과거에 특정 인종 위주로 채용하던 기관이 이제는 인종에 관계없이 채용한다면, 과거의 데이터를 기반으로 공정하게 학습된 인공지능 채용 모델이 현대의 데이터에는 오히려 불공정한 판단을 내릴 수 있다.
연구팀은 이러한 문제를 해결하기 위해, 먼저 `상관관계 변화(correlation shifts)' 개념을 도입해 기존의 공정성을 위한 학습 알고리즘들이 가지는 정확성과 공정성 성능에 대한 근본적인 한계를 이론적으로 분석했다. 예를 들어 특정 인종만 주로 채용한 과거 데이터의 경우 인종과 채용의 상관관계가 강해서 아무리 공정한 모델을 학습을 시켜도 현재의 약한 상관관계를 반영하는 정확하면서도 공정한 채용 예측을 하기가 근본적으로 어려운 것이다. 이러한 이론적인 분석을 바탕으로, 새로운 학습 데이터 샘플링 기법을 제안해 테스트 시에 데이터의 편향 패턴이 변화해도 모델을 공정하게 학습할 수 있도록 하는 새로운 학습 프레임워크를 제안했다. 이는 과거 데이터에서 우세하였던 특정 인종 데이터를 상대적으로 줄임으로써 채용과의 상관관계를 낮출 수 있다.
< 그림 1. 채용과 인종의 상관관계가 변할 때 훈련 데이터를 개선하는 예시 >
제안된 기법의 주요 이점은 데이터 전처리만 하기 때문에 기존에 제안된 알고리즘 기반 공정한 학습 기법을 그대로 활용하면서 개선할 수 있다는 것이다. 즉 이미 사용되고 있는 공정한 학습 알고리즘이 위에서 설명한 상관관계 변화에 취약하다면 제안된 기법을 함께 사용해서 해결할 수 있다.
제1 저자인 전기및전자공학부 노유지 박사과정 학생은 "이번 연구를 통해 인공지능 기술의 실제 적용 환경에서, 모델이 더욱 신뢰 가능하고 공정한 판단을 하도록 도울 것으로 기대한다ˮ고 밝혔다.
연구팀을 지도한 황의종 교수는 "기존 인공지능이 변화하는 데이터에 대해서도 공정성이 저하되지 않도록 하는 데 도움이 되기를 기대한다ˮ고 말했다.
이번 연구에는 노유지 박사과정이 제1 저자, 황의종 교수(KAIST)가 교신 저자, 서창호 교수(KAIST)와 이강욱 교수(위스콘신-매디슨 대학)가 공동 저자로 참여했다. 이번 연구는 지난 7월 미국 하와이에서 열린 머신러닝 최고권위 국제학술 대회인 `국제 머신러닝 학회 International Conference on Machine Learning (ICML)'에서 발표됐다. (논문명 : Improving Fair Training under Correlation Shifts)
한편, 이 기술은 정보통신기획평가원의 지원을 받은 `강건하고 공정하며 확장가능한 데이터 중심의 연속 학습' 과제 (2022-0-00157)와 한국연구재단 지원을 받은 `데이터 중심의 신뢰 가능한 인공지능' 과제의 성과다.
국제공동연구진이 인공지능 학습을 통해 배터리의 표면 형상만 보고 각 원소의 함량 그리고 충·방전 횟수에 대한 정보를 높은 정확도로 알아내는 영상인식 기술을 개발하여 화제다. 우리 대학 신소재공학과 홍승범 교수가 한국전자통신연구원(ETRI), 미국 드렉셀대학과 공동연구를 통해 다양한 조성과 각기 다른 충·방전 사이클의 NCM 양극재 주사전자현미경 사진을 합성곱 신경망* 기반 인공지능에 학습시켜 주요 원소 함량과 충·방전 상태를 99.6%의 높은 정확도로 맞추는 방법론을 세계 최초로 개발했다고 2일 밝혔다. *합성곱 신경망(콘볼루션 신경망, Convolutional Neural Network, CNN): 시각적 영상을 분석하는 데 사용되는 다층의 피드-포워드적인 인공신경망의 한 종류이다. 연구팀은 반도체 공정에서는 웨이퍼의 불량 검수를 위해 주사전자현미경(SEM)을 사용하는 반면 배터리 공정에서는 그런 경우가 드물고 연구 현장에서만 입자
2024-07-02우리 대학이 가수 지드래곤(본명 권지용) 씨를 기계공학과 초빙교수에 임명했다. 임명장 수여는 5일 오전스포츠컴플렉스에서 개최된 ‘이노베이트 코리아 2024’ 행사에서 진행됐다. 이번 임용은 우리 대학의 최신 과학기술을 K-콘텐츠와 문화산업에 접목해 한국 문화의 글로벌 경쟁력을 확대하고자 추진됐다. 권 씨의 소속사인 갤럭시코퍼레이션 관계자는 "이번 임용은 '엔터테크*' 연구개발을 통한 시장 혁신과 K-컬처의 글로벌 확산과 성장에 기여할 것으로 기대된다"라고 밝혔다.* 엔터테크: 엔터테인먼트(entertainment)와 테크놀로지(technology)의 합성어로, 엔터테인먼트의 핵심 가치인 지식재산권(IP) 및 콘텐츠에 ICT를 결합하여 새로운 부가가치를 창출하는 산업권지용 초빙교수는 학부생 및 대학원생을 대상으로 하는 리더십 특강으로 강단에 설 예정이다. 세계적인 아티스트로서의 경험과 삶을 공유해 우리 대학 구성원들이 세계를 바라보는 비전과 통찰, 각자
2024-06-05우리 대학 맹성현 전산학부 명예교수가 『AGI 시대와 인간의 미래』를 이달 출간했다. 지난 30여 년간 자연언어처리, 텍스트마이닝, 정보검색 분야를 연구해온 석학이자 디지털인문사회과학센터 초대 센터장으로서 다양한 융합 연구를 시도해온 맹 교수는 챗GPT 이후의 삶을 날카롭게 통찰해 인간과 AI가 공존하고 동시에 AGI 시대까지 공진화할 수 있는 전략을 이 책에 담았다. *AGI(Artificial General Intelligence): 범용인공지능, 즉 사람과 같거나 그 이상의 지능을 구현하는 AI 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아 등 업계에서 가장 활발하게 인공지능을 연구 중인 글로벌 기업들은 2028년까지 AGI에 도달할 수 있다는 견해를 공개적으로 밝혀왔다. 이러한 시대적 흐름 속에서 맹 교수는 '10년 후 우리의 삶은 어떻게 달라질까?', '우리 일자리 생태계는 어떻게 바뀌어 있을까?', 'MZ세대는 새로운 시대의 일자리에 어떻게 적응해야 할까?', '
2024-06-04지난 수십 년간 많은 의생명과학자의 집중적인 연구에도 불구하고 여전히 국내 사망원인 1위는 암이다. 이처럼 암 치료가 난해한 이유는 환자마다 암 발생의 원인이 되는 유전자 돌연변이와 그로 인한 유전자 네트워크 변형이 서로 달라서 전통적인 실험생물학 접근만으로 표적치료를 적용하는 데에는 본질적인 한계가 있기 때문이다. 한편 딥러닝과 같은 소위 블랙박스(black-box) 방식의 인공지능 기술을 활용해 실험을 대체하고 데이터 학습을 통해 약물 반응을 예측할 수 있으나 이에 대한 생물학적 근거를 설명할 수 없어 결과를 신뢰하기 어려웠다. 우리 대학 바이오및뇌공학과 조광현 교수 연구팀이 인공지능과 시스템생물학을 융합해 암세포의 약물 반응 예측 및 메커니즘 분석을 동시에 이룰 수 있는 새로운 개념의 ‘그레이박스’ 기술을 개발했다고 3일 밝혔다. 조광현 교수 연구팀은 높은 예측 성능을 보이지만 그 근거를 알 수 없어 블랙박스로 불리는 딥러닝과 복잡한 대규모 모델
2024-06-03우리 대학이 세계적인 국책 인공지능 연구기관인 영국의 앨런 튜링 연구소(Alan Turing Institute)와 이달 22일 '인공지능 및 데이터 과학 연구 협력 강화'를 위한 협력 협정을 체결했다. 한국과 영국 정부가 공동 주최한 'AI 서울 정상회의 2024'에 맞춰 체결된 이번 협력 협정을 바탕으로 향후 두 기관은 인공지능 및 데이터 과학 분야의 공동연구를 추진한다. 우리 대학김재철AI대학원(원장 정송)과 앨런 튜링 연구소 간의 인턴십·단기 파견 등의 인력교류와 파트너십 프로젝트를 통한 지식 교환 등 다양한 분야에서 학술 협력도 진행할 예정이다. 미셸 도넬런(Michelle Donelan) 영국 과학혁신기술부 장관은 "앨런 튜링 연구소와 KAIST 간의 합의 발표는 영국이 전 세계 파트너와의 협력적 접근 방식을 통해 혁신을 촉진하여 신기술이 제공하는 엄청난 잠재력을 완전히 실현할 수 있도록 하겠다는 의지를 더욱 입증한다"라고 밝혔다. 앨런 튜
2024-05-30