서울대 공대 전기정보공학부 이정우 교수팀, 인공지능 모델 신뢰도 높이는 AI 편향성 감소 기술 개발

서울대 공대 전기정보공학부 이정우 교수팀, 인공지능 모델 신뢰도 높이는 AI 편향성 감소 기술 개발 - AI 분야 최고 권위 국제학술대회 NeurIPS 2024 논문 발표 - 영상·의료·법률 데이터 등 폭넓은 활용 기대돼 ▲ 서울대학교 전기정보공학부 이정우 교수(왼쪽), 한형근 연구원(오른쪽)서울대학교 공과대학은 전기정보공학부 이정우 교수 연구팀이 인공지능(AI) 학습 데이터에 존재하는 편향성(Bias)을 감소시키는 원천 기술을 개발했다고 밝혔다. 이정우 교수가 창업한 AI 자동학습 플랫폼 기업 ‘호두에이아이(HodooAI)’는 지난 12월 9일부터 15일까지 캐나다 밴쿠버에서 열린 AI 이론 분야의 국제학술대회 ‘NeurIPS 2024(Neural Information Processing Systems, 신경정보처리시스템학회)’에서 해당 기술을 제안한 논문 ‘Mitigating Spurious Correlations via Disagreement Probability’를 발표했다. 임팩트 팩터(Impact Factor) 24, 논문 채택률 25%의 최고 권위 학회에서의 이번 논문 발표는 서울대 CML (Cognitive Machine Learning Lab) 연구실 및 호두에이아이의 첨단 기술력을 국제적으로 인정받았다는 점에서 의미가 깊다는 평가를 받고 있다.AI 실용화의 가장 큰 걸림돌은 데이터의 편향성(편견)에 기인한 AI 판단의 불공정성 및 불투명성 문제이다. 심지어 최근 많은 인기를 끌고 있는 챗GPT(chatGPT)에도 이러한 불공정성 문제가 남아있다고 알려져 있다. 예를 들면 AI 모델을 통해 대출 신청자의 상환 가능성을 평가하는 은행은 소득 수준이 높은 특정 인종 또는 성별의 신청자를 주로 선호하게 된다. 이때 AI 모델이 신청자의 인종, 성별, 나이 대신 다른 합당한 근거에 기반해 공정하게 평가토록 하려면, 먼저 대출 신청자 데이터에 존재하는 편향성을 제거해야 한다. 이처럼 AI 학습 데이터의 편향성 문제는 모든 AI 기술이 내재한 근본적 문제이다. ▲ AI 편향성(Bias) 문제의 간단한 예시 : AI 모델이 소와 낙타의 분류 작업을 학습한다고 가정할 때, 위 구성의 이미지들이 학습에 사용된다. (사막 또는 목초지 배경의 소 또는 낙타) 일반적으로 소와 낙타는 각각 목초지, 사막에 서식하기 때문에 위 그림에서 빨간 점선으로 표시된 이미지들은 상대적으로 그 개수가 적다. 이는 AI 모델로 하여금 목초지의 낙타를 소로 잘못 예측하는 등 배경만으로 동물의 종류를 예측하도록 만드는 문제를 야기할 수 있다. 이에 이정우 교수 연구팀은 다양한 학습 데이터 내의 가짜 상관관계(spurious correlations) 유무와 관계없이 올바르게 예측하도록 AI 모델을 학습시키는 AI 편향성 경감 기술을 개발했다. 이 획기적 기술을 활용하면 데이터의 지엽적 특징이 아닌 핵심 특징을 파악하는 AI 모델의 일반화 능력을 향상시킬 수 있다. 특히 이번 논문에서 제안된 알고리즘은 기존 AI 모델에 비해 약 21% 정도 향상된 정확도를 보이며 높은 성능과 신뢰도를 입증했다.기술 개발에 나선 연구팀은 먼저 일부러 편향된 AI 모델을 만든 다음, 이를 이용하여 모든 학습 데이터 샘플에 대해 가짜 상관관계가 존재하지 않을 확률을 구했다. 그 이후 가짜 상관관계가 존재하지 않을 확률에 따라 학습 데이터를 재추출(resampling)하고, 편향된 모델을 이어서 학습시켰다. 연구팀은 이 방식에 관해 “가짜 상관관계가 존재하지 않을 확률이 높은 학습 데이터를 더 많이 추출되게 만듦으로써 AI 모델이 점차 가짜 상관관계에 의존하지 않도록 만들었다”고 설명했다. ▲ AI 편향성 경감 기술 알고리즘의 주요 단계를 나타낸 의사코드(Pseudocode)AI 모델의 가짜 상관관계 의존도를 줄이고, 모델이 핵심 요인을 정확하게 포착해 판단의 근거로 사용하도록 하는 이 편향성 경감 기술은 폭넓은 범용성을 갖췄다. 따라서 향후 영상·의료·법률·수치 데이터 등에 존재하는 편향성을 제거하는 기법으로 널리 사용될 수 있다. 특히 의료 현장에서 활용 시, 신속하고 정확한 진료에 크게 기여할 것으로 전망된다. 아울러 이 특허 기술은 향후 호두에이아이의 AI 플랫폼에서 ‘편향성 제거 AI 엔진’을 생성하는 핵심 기술로 사용될 예정이다. 한형근 연구원(제1저자)은 “이번에 선보인 기술이 AI 편향성 제거에 관한 국내 기술력을 세계적 수준으로 끌어올리는 데 큰 역할을 할 것“이라며 ”앞으로 모델과 데이터 종류에 관계없이 AI 편향성 경감 기술 연구가 활발히 이루어져 신뢰도와 안정성이 보다 높아진 AI 모델이 세계 곳곳에서 안전하게 사용되길 기대한다”고 밝혔다.연구를 지도한 이정우 교수는 “최고 권위의 AI 학회인 NeurIPS 2024에서 논문이 채택되어 기쁘게 생각한다”고 소감을 밝히면서 “더욱 혁신적인 기술 개발로 한국 AI 스타트업의 기술 수준을 높이는 데 기여할 것”이라고 포부를 전했다. 한국의 대표적인 ‘신뢰 가능한 AI(Trustworthy AI)’ 기술 전문가로 꼽히는 서울대 전기정보공학부 이정우 교수는 지난 2017년 연구실 제자 5명과 함께 AI 서비스 회사를 위한 AI 자동학습 플랫폼 기업 ‘호두에이아이(HodooAI)’를 설립한 바 있다. 이정우 교수가 발표한 이번 논문에 공저자로 참여한 한형근, 주형준, 김세환 연구원은 현재 ‘책임 있는 AI(Responsible AI)' 연구에 매진하고 있으며, 향후 학계에서 후속 연구를 수행하거나 글로벌 기업 연구소에서 근무할 예정이다. [참고자료]“Mitigating Spurious Correlations via Disagreement Probability”, NeurIPS 2024 https://arxiv.org/pdf/2411.01757v1[문의] 서울대학교 전기정보공학부 이정우 교수 / 02-880-1754 / junglee@snu.ac.kr

서울대 공대 재료공학부 강승균 교수팀, 뇌졸중 실시간 모니터링하는 유연 변형률 센서 개발

서울대 공대 재료공학부 강승균 교수팀, 뇌졸중 실시간 모니터링하는 유연 변형률 센서 개발- 미세균열에 메타구조 결합해 세계 최고 수준 민감도 갖춘 센서 기술 구현 - 세계적 학술지 Science Advances 논문 게재 ▲ (윗줄 왼쪽부터) 서울대학교 재료공학부 이재환 박사, 김윤남 박사과정생, 퍼듀대학교 의공학과 이준상 박사 (아랫줄 왼쪽부터) 서울대학교 재료공학부 강승균 교수, 단국대학교병원 재활의학과 현정근 교수, 아주대학교 기계공학과 강대식 교수서울대학교 공과대학은 재료공학부 강승균 교수 연구팀이 단국대학교병원, 아주대학교, 퍼듀대학교(Purdue University) 연구팀과 함께 세계 최고 수준의 민감도를 가진 변형률 센서를 개발했다고 밝혔다. 미세균열과 메타구조의 독창적 결합을 통해 극도로 민감한 유연 신축성 센서를 개발한 이번 연구는 실용성 높은 혁신적 기술력을 입증해 학계의 주목을 받았다. 특히 뇌혈관의 혈압 및 혈류를 연속적으로 측정해 뇌졸중을 실시간으로 진단하는 기술을 구현함으로써 정밀 생체의공학 분야의 새 가능성을 열었다는 평가를 받고 있다. 이번 연구 성과는 지난 12월 20일 세계적 권위의 학술지 ’사이언스 어드밴시스(Science Advances)‘에 온라인으로 게재됐다. 변형률(Strain)은 외부에서 힘이나 하중이 가해졌을 때 물체가 원래 길이나 부피에서 얼마나 변형되었는지를 나타내는 비율이다. 그리고 재료나 구조물의 표면에 부착되거나 안쪽에 내장되어 이 변형률을 측정하는 장치가 변형률 센서(Strain Sensor)로 산업 및 연구 분야에서 널리 사용된다. 그 중 우수한 신축성을 갖춘 ’유연 변형률 센서‘는 전도성 재료의 전기저항 변화를 기반으로 생체 신호나 특정 물체의 변형을 감지한다. 하지만 민감도가 제한적인 기존의 이 센서는 매우 미세한 변형(10⁻³ 이하의 변형률)을 측정할 때 성능이 급격히 저하되는 한계를 지녔다. 이는 기계적 생체 신호를 동반하는 질환의 조기 진단이나 구조물의 신뢰성 평가 및 사전 안전 진단에 활용될 때 치명적인 약점으로 작용한다. 왜냐하면 실제로 뇌출혈, 뇌경색 등 뇌혈관 질환은 사람을 사망에 이르게 하기 전 10⁻³ 미만의 초미세 변형을 동반하며, 건축물의 구조 재료는 수많은 인명 피해를 낳을 수 있는 파괴에 이르기 전 대개 10⁻⁵~10⁻³ 수준의 표면 변형을 수반하기 때문이다.이 문제의 해결에 나선 강 교수팀은 음의 푸아송 비율(Poisson’s ratio, 수평 방향의 변형률을 수직 방향의 변형률로 나눈 비율)을 가진 메타구조를 도입함으로써 기존 센서와 대비해 최대 100배 이상의 민감도를 갖춘 유연 신축성 변형률 센서를 개발했다. 10⁻⁵ 수준의 변형률, 즉 사람의 머리카락에서 원자 하나만큼의 길이가 늘거나 준 극미세 변형까지 측정하는 센서를 선보인 것이다.▲ 그림1 (좌) 메타구조-균열 통합 기반 초고민감 변형률 센서 (우) 메타-균열 센서를 구성하는 균열이 포함된 박막과 메타구조 강 교수팀은 연구 과정에서 “나노스케일 미세균열의 폭이 확장되는 정도를 조절해 전기저항 변화를 증폭시키는 방법으로 세계 최고 수준의 변형 민감도를 달성한 센서를 개발할 수 있었다”고 설명했다. 그 결과, 빵에서 피어난 곰팡이 균사의 성장에 따른 접촉(10⁻⁵ 수준의 변형률)까지도 센서가 실시간으로 감지하는 등 미생물의 성장 과정에서 일어나는 극미세 변형도 모니터링이 가능함을 증명했다.▲ 그림2 (좌) 일반 균열 센서에서 관찰되는 균열 면 재결합 현상 (우) 메타-균열 센서의 특이적 균열 개방 거동이 같은 센서의 우수한 민감도는 특히 생체 환경에서의 높은 활용도를 시사한다. 연구진은 센서를 두개골 내부의 뇌혈관 표면에 부착해 혈압 및 혈류 변화를 실시간으로 모니터링하는 데 성공했다. 그리고 이를 통해 뇌출혈, 뇌경색과 같은 뇌혈관계 질환 또는 심혈관계 질환을 조기에 진단하고 정밀 의료 데이터를 제공받을 수 있음을 확인했다. 또한 생분해성 소재가 사용된 센서는 체내에 장기간 잔류하지 않고 자연 분해되므로 의료 현장에서 활용할 경우 추가 수술이나 부작용의 위험 없이 환자의 안전을 보장할 수 있다.▲ 그림3 (좌상단) 개 뇌 모델 혈관 표면에서의 생체 신호 모니터링 모식도 (우상단) 혈관 다발 표면에서의 초민감 혈압 변화 모니터링 (하단) 실시간 혈류 변화 모니터링강승균 교수는 “이번 연구는 단순히 기존 유연 변형률 센서의 성능을 높인 게 아니라, 기존 기술의 한계를 혁신적으로 뛰어넘는 새로운 접근법을 제시했다는 점에서 큰 의미가 있다”며 “새로 개발한 센서가 생체공학 및 의료기기 뿐만 아니라 로봇공학, 재난 구조, 환경 모니터링 등 다양한 분야에서 널리 응용되길 기대한다”고 밝혔다. 한편 논문의 제1저자인 이재환 박사는 서울대 재료공학부에서 박사학위 취득 후 다차원소재 연구실에서 박사후연구원으로서 다양한 분야의 연구에 매진하고 있다. 특히 후속 연구로서 균열 개방 거동의 모델링 및 최적화, 전자소자 소재 생분해 가속화에 관한 연구를 진행 중이다. 공동 제1저자인 김윤남 박사과정생은 서울대 재료공학부에서 학위과정을 밟고 있으며, 졸업 후 박사후연구원으로의 진로를 계획하고 있다. 현재 균열 센서의 성능 향상을 목표로 공정 최적화 및 소프트 재료의 온디맨드 능동분해에 대한 연구를 수행 중이다. 또 다른 공동 제1저자인 이준상 박사는 서울대 재료공학부에서 박사학위 취득 후 현재 퍼듀대학교 의공학과 박사후연구원으로서 균열 모델의 역학적 해석에 관한 연구 활동을 펼치고 있다. [참고자료] “Hypersensitive Meta-Crack Strain Sensor for Real-Time Biomedical Monitoring”, Science Advanceshttps://www.science.org/doi/10.1126/sciadv.ads9258[문의] 서울대학교 재료공학부 강승균 교수 / 02-880-5756 / kskg7227@snu.ac.kr

서울대 공대 김도년·강기석 교수, 과기부 ‘국가연구개발 우수성과 100선’ 선정

서울대 공대 김도년·강기석 교수, 과기부 ‘국가연구개발 우수성과 100선’ 선정 ▲ 서울대학교 기계공학부 김도년 교수(왼쪽), 재료공학부 강기석 교수(오른쪽) 서울대학교 공과대학은 기계공학부 김도년 교수와 재료공학부 강기석 교수의 연구성과가 과학기술정보통신부 ‘2024년 국가연구개발 우수성과 100선’에 선정됐다고 밝혔다. 과기정통부는 과학기술의 역할에 대한 국민들의 관심을 제고하고 과학기술인의 자긍심을 고취하고자 올해로 19년째 연구개발 우수성과 100선을 발표하고 있다.과기정통부는 지난 17일 ‘2024년 국가연구개발 우수성과 100선’을 발표했다. 각 부·처·청이 선별 추천한 총 869건의 후보 성과를 대상으로, 산·학·연 전문가 100명으로 구성된 선정평가위원회가 연구개발의 효과와 경제·사회적 파급 효과 등을 평가했다. 이후 대국민 공개검증을 거쳐 최종 100건의 우수성과가 발표됐다.과기정통부는 6개 기술분과별로 대한민국 미래에 기여할 우수 연구개발 성과를 선정했다. ▲기계·소재 16건 ▲생명·해양 23건 ▲에너지·환경 22건 ▲정보·전자 23건 ▲융합 10건 ▲순수기초·기반 6건이다. 그리고 우수성과 100건 중 각 분야별로 2건, 총 12건의 최우수성과도 선정했다. 서울대 기계공학부 김도년 교수의 ‘종이접기 하듯이 하나의 구조체를 다양한 모양으로 접거나 펼 수 있는 DNA 나노기술 개발’ 연구성과는 기계·소재 분야의 최우수성과로 선정됐다. 김 교수팀이 10억 분의 1미터 수준에서 종이접기 원리를 구현하는 초정밀 나노기술을 세계 최초로 개발한 것이다.이 기술은 나노구조체에 DNA, RNA, 빛, pH 등 다양한 자극에 대한 반응성을 부여하고 제어할 수 있다. 이러한 성과에 힘입어 이번 연구성과는 하나의 구조체가 외부 자극의 종류에 따라 다양한 모양으로 변형될 수 있는 가변 나노구조체 개발의 원천기술을 확보했다는 평가를 받는다. 과학기술정보통신부 국가과학난제도전 융합연구개발사업의 지원으로 수행된 이번 연구에서 개발한 DNA 나노기술은 향후 고도화된 기능을 가진 분자 수준의 기계 및 로봇 개발에 활용될 예정이다. 또한 분자 진단, 약물 전달, 유전자 치료, 신약 개발 등 첨단 나노바이오 기술의 새로운 방향성을 제시하고 세계적 경쟁력 확보에 기여하리라 기대된다. 김도년 교수는 “이번 우수성과 선정을 통해 그동안의 노력과 성과를 인정받게 되어 매우 기쁘다”고 선정 소감을 전하며 “종이접기를 이용한 기계공학의 적용 분야가 분자 수준으로 확장되고, 기술의 고도화 및 융복합 연구를 통해 나노로봇, 첨단 바이오 기술 등 다방면에서 활용될 수 있도록 노력하겠다”고 포부를 밝혔다.김도년 교수는 서울대학교 기계항공공학부에서 학사 및 석사학위, 매사추세츠 공과대학교(MIT) 기계공학과에서 박사학위를 취득했다. 이후 MIT 생명공학과 박사후연수를 거쳐 2013년부터 지금까지 서울대학교 기계공학부 교수로 재직하고 있다. 2020년부터 이번 연구를 지원한 국가과학난제도전 융합연구개발사업의 인공모포제네시스 연구단을 단장으로서 이끌어오고 있다.한편 서울대 재료공학부 강기석 교수의 ‘고 안정성, 고 이온전도성 신규 고체전해질 개발 전략 제시’ 연구성과는 에너지·환경 분야의 우수성과로 선정됐다. 연구팀은 차세대 전고체 전지의 핵심 소재인 고체 전해질의 성능을 획기적으로 향상시킬 수 있는 신규 전해질 소재를 개발했다. 이번 연구결과는 그간 명확하게 해석되지 못했던 금속 이온의 배치에 따른 삼방정계 염화물 고체 전해질의 이온전도성 변화에 대해 규명하고, 새로운 전해질 설계 전략을 제시했다는 점에서 앞으로 다양한 염화물계 고체 전해질 개발로 이어질 전망이다. 또한 향후 경제성과 안정성을 두루 갖춘 신규 고체 전해질 발견과 더불어 전고체 전지 상용화의 촉진제로 작용할 것으로 예상된다. 강기석 교수는 “우수성과 100선 선정은 참여 연구진 모두의 노력과 열정 덕분에 가능했다”고 공을 돌리며 “이번 성과를 바탕으로 앞으로도 지속 가능한 에너지 기술 개발을 위한 연구에 매진할 계획이며, 더 나아가 학문적 발견이 산업적 응용으로 이어질 수 있도록 혁신적  연구를 계속해 나가겠다”고 각오를 밝혔다. 이차전지혁신연구소 소장을 맡고 있는 강기석 서울대학교 재료공학부 교수는 이차전지 소재 분야의 혁신적 연구성과를 통해 새로운 전지 소재를 개발하며 관련 학문의 지평을 넓히고 있다. 자연과학 분야의 최고 권위 학술지 ‘사이언스(Science)’에 논문 네 편을 게재하는 등 국제 저명 학술지에 다수의 논문을 발표했고, 최근 5년간 32,000회 이상의 논문 인용 횟수를 기록하며 이차전지 분야의 가장 영향력 있는 공학자 중 한 명으로 평가받고 있다.[문의]서울대학교 기계공학부 김도년 교수 / 02-880-1647 / dnkim@snu.ac.kr서울대학교 재료공학부 강기석 교수 / 02-880-7088 / matlgen@snu.ac.kr