AI는 도구일 뿐 만능이 아니다: '예열 단계' 도입이 시사하는 사용자 가이드라인 정립화의 필요성
다음 네이버 ‘난 모르는 상태’ 예열 학습시켰더니…AI, 예측 편향 줄었다 카이스트 백세범 교수팀 ‘새 기술’ 본격 학습 전 불확실성 먼저 조정 환각 줄이고 메타인지 가능성 제시 인공지능(AI)은 어떤 질문에도 척척 답을 내놓는다. 때로는 틀린 예측이나 잘못된 정보를 제공하면서도 높은 확신을 보인다. AI가 갖는 이런 ‘과도한 확신’은 자율주행과 의료진단 등의 분야에서는 위험으로 작용할 수 있다. 카이스트는 백세범 뇌인지과학과 석좌교수 연구팀이 AI가 스스로 모른다는 것을 인식하도록 하는 학습 방법을 개발해 AI 신뢰성 향상 기반을 마련했다고 27일 밝혔다. 백 교수 연구팀에 따르면 AI 과신을 유발하는 원인은 인공신경망을 활용해 데이터를 학습하는 ‘딥러닝’ 과정에 있다. 딥러닝에서는 신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 ‘무작위 가중치 초기화’가 널리 사용된다. 무작위로 초기화된 신경망에 임의 데이터를 입력하면 아...