"AI가 아는 척하는 과신 현상 원인 규명"

국내 연구진이 딥러닝에서 널리 쓰이는 무작위 가중치 초기화가 인공지능이 실제보다 더 잘 안다고 착각하는 과신 현상을 유발하는 원인일 수 있음을 규명했습니다.

KAIST 뇌인지과학과 백세범 교수 연구팀은 본격적인 학습 전에 무작위 노이즈로 신경망을 짧게 훈련하는 예열 전략을 적용해 과신 현상의 원인을 규명했다고 밝혔습니다.

그 결과, 아무것도 배우지 않은 상태에서 높게 나타나던 확신이 낮아지면서, 인공지능의 정답률과 스스로의 확신도가 자연스럽게 일치하는 방향으로 개선됐다고 설명했습니다.

이어 처음 보는 데이터에 대해서는 "모르겠다"고 판단하는 능력이 향상됐고, 학습 데이터와 다른 유형의 정보를 구별하는 성능도 함께 높아졌다고 덧붙였습니다.



YTN 사이언스 권석화 (stoneflower@ytn.co.kr)