메뉴

YTN 사이언스

검색

[과학의 달인] "촉각으로 소리를 느낀다"…청각 장애인을 위한 따뜻한 기술!

2020년 05월 14일 오전 09:00
■ 신승용 / ETRI 휴먼증강연구실 선임연구원

[앵커]
과학계에는 여러 분야별로 특별한 연구 업적을 쌓은 분들이 많죠. 그래서 '사이언스 투데이'가 오늘부터 매주 목요일마다 각자의 분야에서 성과를 내고 있는 과학 기술인들을 만나보는 순서를 마련했습니다.

'과학의 달인', 첫 번째 주인공은 청각 장애인분들을 위한 따뜻한 기술을 실현하시는 분입니다. 바로 한국전자통신연구원 휴먼증강연구실 신승용 선임연구원인데요. 함께 만나보죠. 안녕하세요. 방금 소개를 해드렸습니다. 청각 장애인을 위한 따뜻한 기술을 만들고 계시다, 이렇게 소개해 드렸는데 정확히 어떤 기술인지 너무 듣고 싶어요.

[인터뷰]
청각 장애인들도 음악을 감상하거나 노래를 부르게끔 하는 기술입니다. '촉각 피치 시스템'으로 촉각으로 소리를 인식하게 하는 기술이죠. 이 기술은 청각 장애인이 좀 더 정확한 음을 내며 노래까지 부를 수 있도록 도와줍니다.

[앵커]
그런데 지금 현재 청각 장애인들은 '인공와우'수술이라고 하잖아요. 의학적인 방법으로 어느 정도 의사소통이 가능하다고 알고 있는데 이번에 개발된 기술은 이런 방법과는 어떤 차이가 있는 건가요?

[인터뷰]
청각장애인도 개인차는 있지만, 인공와우 수술을 받으면 일상적인 의사소통이 가능합니다. 인공와우가 청신경에 전기자극을 직접 줘 소리를 듣게 해주기 때문이죠. 하지만 달팽이관에 삽입할 수 있는 전극의 수에 제한이 있어서 소리 그대로를 전달하기는 어렵습니다. 그래서 의사소통이 가능한 정도에 그치고 음의 높낮이를 정확히 구분하지는 못합니다. 그래서 청각 장애인들이 음악을 감상하거나 노래를 부를 때 제약이 있죠.

[앵커]
그렇군요. 이런 인공와우 기술의 한계 때문에 촉각을 소리로 인식할 수 있는 촉각 피치 시스템을 이번에 개발하셨다고 말씀해 주셨는데요. 어떻게 이런 기술이 가능해진 건지, 궁금하네요.

[인터뷰]
주위의 소리나 자신의 목소리의 주파수 신호를 이용해 음을 인식한 뒤, 촉각 패턴으로 만들어 착용자의 피부에 전달하는 사용자 인터페이스 기술입니다. 해당 기술을 활용하면 학습을 통해 주변의 소리나 자신의 목소리의 음의 높이를 피부로 느낄 수 있습니다. 우리 같은 청인들은 자신의 목소리의 높낮이를 들을 수 있어서 목소리의 높낮이를 본능적으로 조절할 수 있습니다. 하지만 청각장애인의 경우 이것이 힘들어 이를 피부를 통해 가능하게 해주는 것입니다.

이 기술을 구현할 수 있는 장갑을 직접 가지고 나왔는데요. 제가 잠깐 껴보도록 하겠습니다.

[앵커]
어떻게 보면 촉각을 통해서 소리를 만진다, 그렇게 이해하면 될까요?

[인터뷰]
네, 그렇게 생각해도 괜찮을 것 같습니다.

[앵커]
고무로 되어있는 장갑에 여러 가지 전자 장비가 달려있네요. 어떻게 구현이 되는 건지 직접 한 번 설명해주시죠.

[인터뷰]
이 시스템 같은 경우는 9개의 진동모터를 이용을 해서 3옥타브 도에서 5옥타브 시까지 반음을 포함한 36개의 음계를 촉각패턴으로 사용자에게 전달해줍니다. 예를 들어서 기본 '도'라고 하는 4옥타브 '도' 소리가 들리면 사용자가 왼손에 낀 장갑을 통해 검지 첫째 마디에 진동이 느껴지도록 하는 그런 기술입니다.

[앵커]
그러니까 우리 같은 청인들이 피아노를 치면서 계이름을 익히는 것처럼 청각장애인들은 이 장갑을 통해서 촉각으로 소리를 익힌다, 계이름을 익힌다, 이렇게 이해하면 될 것 같은데 실제로 이 기술을 적용해서 이용하고 계신 그런 청각장애인분들의 모습이 궁금해요. 직접 한 번 볼까요?

노래를 부르고 계시네요. 조금 적응이 좀 더 필요하긴 하지만 상당히 정확한 편으로 노래를 부르고 계신 것 같은데요. 박자도 맞고요. 지금 이게 소리가 촉각을 통해서 자극이 오고 있는 거죠?

[인터뷰]
네, 자신의 목소리가 진동을 통해서 손에서 느껴지고 있는 겁니다.

[앵커]
직접 보니까 정말 신기한데 청각 장애인분들에게 음악을 선물해주신 게 아닌가, 이런 생각이 들 정도인데요. 그런데 촉각이 어떻게 청각을 대체할 수 있게 된 건가요?

[인터뷰]
소실된 감각을 대체하여 다른 감각으로 정보를 전달하는 기술을 '감각 치환'이라고 합니다. 인간의 뇌는 어느 감각기관을 통해서 정보가 들어왔든 상관하지 않고 들어오는 정보의 패턴을 분석할 수 있습니다. 감각기관은 사실 단순히 외부 데이터를 뇌에 전달만 해주는 통로 역할을 합니다. 하나의 통로가 막히더라도 다른 통로를 통해서 정보를 주면 뇌에서는 분석할 수 있습니다. 이 점을 이용하면 소리가 귀를 통해서 전달되지 않더라도, 잘 변환해서 피부의 촉각 신경을 통해서 전달하면 결국 뇌에서는 귀에서는 듣는 거와 동일하게 정보를 분석할 수 있습니다. 물론 익숙하지 않아 처음에는 힘들겠지만, 지속적인 훈련을 하면 무의식적으로 피부에서 느껴지는 진동이 소리처럼 느껴지게 됩니다. 이 감각 치환은 다른 예로도 가능합니다. 즉, 시각장애인에게 시각 정보를 소리로 전달해주면 귀로 보는 것도 가능하죠. 더 나아가서는 인간에게 원래 없는 초음파 같은 새로운 여섯 번째 감각기관을 추가시킬 수도 있습니다.

[앵커]
그러니까 감각치환이라는 말씀을 하셨는데 청각이라는 감각을 촉감으로 치환해서 소리를 듣는다, 이런 발상이 정말 신기하다는 생각이 듭니다. 앞서 저희가 작은 별을 부르는 영상을 봤잖아요. 그런 청각 장애인 같은 분 경우에는 그렇게 노래를 부를 수 있게 되기까지 정말 피나는 노력을 하셨을 것 같아요.

[인터뷰]
네, 맞습니다. 이분 같은 경우 한 달 동안 15회에 걸쳐 약 15시간 동안 연습을 했습니다. 사실 오히려 기술을 개발한 저희보다 청각장애인 당사자와 훈련을 도와주는 청각사 선생님이 정말 고생을 많이 하셨어요. 새로운 방식의 접근이라 정해진 학습법이 없어 초반에 시행착오가 많아 두 분 모두 스트레스가 많았습니다. 또, 음정을 이용해 노래를 불러본 경험이 없어 발성과 호흡에 관해서도 중간중간에 학습이 필요했습니다. 또 청각장애인 당사자도 한 번도 내보지 않은 높은 소리를 지속해서 내다보니 목에 무리가 많이 갔습니다. 그래도 다행히 중간에 어느 정도 효과가 보이기 시작하자 열정적으로 참여했고 노래에 대한 재미가 붙으면서 실력이 크게 향상됐습니다.
참가자의 음정 정확도를 확인한 그래프가 있는데요. 훈련을 받기 전에는 파란색 실선으로 단조로운 음역에 머물렀다면, 훈련을 받은 후에는 실제 음정 (검은색 점선)과 비슷한 정도의 음 (빨간색 실선)을 내는 것으로 나타났습니다.

[앵커]
그러니까 이 검은색 점이 정확한 음인데 그 부분을 따라가는 게 빨간색 점이라고 말씀하시는 거죠? 상당히 많이 개선된 게 보이는데 촉감을 통해 어느 정도 음의 높낮이를 익혔다면, 나중에는 이 시스템 없이도 혼자서도 노래 부르는 게 가능하지 않을까 싶은데 어떻게 보시나요?

[인터뷰]
연습만 많이 한다면 가능하다고 생각합니다. 청인도 자신의 목소리가 안 들리면 노래를 정확하게 부르기 힘듭니다. 이어폰으로 음악을 크게 들으면서 노래하면 음정이 다 틀리죠. 그러나 가수들의 경우 자신의 목소리가 잘 안 들리는 무대에서 인이어를 빼고도 멋지게 노래를 합니다. 이 기술을 이용하는 청각장애인도 마찬가지라고 생각합니다. 시스템 없이도 부정확하지만, 충분히 기억을 이용해 노래할 수 있으며 연습만 한다면 없이도 상당히 정확한 노래를 부를 수 있을 것입니다.

[앵커]
실제로 연습에 참여하셨던 청각장애인분의 의견도 비슷했다고 들었는데요. 직접 한번 들어볼까요?

[신OO / 청각장애인 : 열 번, 열한 번 하다 보니까 제 음정이 안정적이게 느껴지고 저도 모르게 계이름이 외워져요. 자꾸 머릿속에 떠올라서 자연스럽게 노래를 즐기게 되고 음정도 자연스럽게 감각이 남아 있어서 기억에 있어요.]

[앵커]
네, 방금 인터뷰에 자연스럽게 이 감각을 익히게 됐다, 이렇게 말씀해주셨는데 인공와우 수술을 해도 언어 재활 훈련이 필요하다고 알고 있거든요. 혹시 이렇게 개발하신 촉각 피치 시스템이 단순히 음악 활동을 넘어서 언어 재활 치료에도 도움을 줄 수 있을까요?

[인터뷰]
네, 맞습니다. 많은 사람이 인공와우 수술을 하면 바로 소리가 정상적으로 들린다고 생각합니다. 하지만 수술보다 어려운 것이 그 뒤에 이어지는 재활 훈련입니다. 이 재활훈련은 긴 시간 이루어져야 하며, 한번 했다고 끝나는 것이 아니라 평생 지속적으로 받아야 합니다. 그만큼 재활이 어렵고 중요합니다. 실제로 수술을 했더라도 포기하고 수화를 사용하는 청각 장애인이 매우 많습니다. 외국 다수의 연구 결과를 보면 이 재활 시 음악 학습을 병행하면 추후 음성 언어 구사력이 더 좋아진다고 합니다. 이는 사실 우리도 마찬가지입니다. 유아기에 언어를 배우기 시작할 때 항상 노래도 같이 배웁니다. 때론 말보다 노랫말을 빨리 익히기도 하고요. 이렇게 음악은 지겨운 공부를 즐겁게 바꿔주는 역할도 하지만 자연스러운 억양과 말의 감정을 배우는 데 매우 효과적입니다.

[앵커]
단순히 음악을 듣고 부르는 것을 넘어서 그런 시스템을 활용해서 어떤 학습이라든지 여러 가지 좀 다양하게 활용될 수 있는 가능성이 있을 것 같거든요. 어떻게 보고 계신가요?

[인터뷰]
현재 촉각 피치 시스템의 경우 소리의 높낮이 정보만 촉각으로 전달해주고 있습니다. 그러나 촉각을 통해서 더 다양한 정보 전달도 가능합니다. 저희가 작년에 개발하고 임상을 진행한 다른 연구의 경우 음성 단어를 전달하는 연구도 있습니다. 음성으로 녹음된 단어를 촉각 패턴으로 바꿔 전달하고 이를 인지할 수 있는지 테스트한 결과 긍정적인 결과가 나왔습니다. 개인마다 학습 능력에 차이는 보였지만 총 150개의 단어를 인지할 수 있었으며 학습을 하지 않은 완전 새로운 단어도 유추해서 맞출 수 있었습니다. 비록 현재의 수준은 단어 같은 단순한 정보만 가능하지만, 더 연구를 진행해 발전시켜 우리가 듣는 소리의 모든 영역을 촉각을 통해 전달하여 인공와우 수술이나 보청기 없이도 청인과 동일하게 소리를 인지할 수 있게 하는 것이 저의 목표입니다.

[앵커]
네, 꼭 그 목표가 이루어졌으면 좋겠는데 이처럼 소외된 이들을 위한 그런 따뜻한 ICT 우리 사회를 더 밝고 긍정적으로 만드는데 그 역할을 톡톡히 할 것이라고 생각이 들어요. 어떻게 보시나요?

[인터뷰]
기술적으로 소외된 지역이나 계층을 위해 그들 환경과 여건에 알맞게 쉽게 적용 가능한 기술을 '적정기술'이라고 부릅니다. 기술의 우수함보다는 그들의 문화나 환경을 충분히 이해하고 딱 알맞은 기술이라고 볼 수 있죠. 하지만 해외보다 우리나라의 연구 환경에서는 적정 기술에 관한 연구를 하기에는 쉽지 않습니다. 거대한 수입을 안겨주지도 않고 학문적으로 근사한 논문 타이틀을 안겨주기도 힘듭니다. 그러나 기술의 도움을 정말로 필요로 하는 소외된 계층을 위해 그들이 꼭 필요로 하는 것을 제공해줄 수 있는 따뜻한 기술들이 많이 연구된다면 그 어떤 연구보다도 사람들에게 도움을 줄 수 있으며 사회를 변화시키는 임팩트 있는 연구가 될 수 있다고 생각합니다. 저도 이 분야를 오랫동안 연구한 전문가는 아니지만, 이 기회를 통해 많은 연구자와 국민이 적정 기술에 관한 관심을 가져주셨으면 합니다.

[앵커]
말씀하신 것처럼 이 과학 기술이 여러 사람을 돕는데 따뜻한 기술로 다양하게 활용되기를 저도 바라겠습니다. 연구원님의 향후 계획에 대해서도 궁금한데요. 어떤 계획 갖고 계신가요?

[인터뷰]
촉각 피치 시스템은 이제 연구의 가능성이 보이기 시작하는 초기 단계의 연구입니다. 이 기술을 청각 장애인에 손에 들어가게 하기 위해서는 더 많은 연구와 고민이 필요합니다. 작년 청각 장애인들에게 받은 의견들을 반영해 좀 더 안정적인 시스템을 올해 개발해 더 다양하고 많은 청각 장애인에게 적용해 결과를 확인해 볼 생각입니다. 또, 저희가 개발한 이 시스템의 경우 판매가 아닌 정부의 보급을 통해서 제공하는 것이 목표라 이를 가능하게 하도록 연구 외적인 노력도 할 예정입니다.

마지막으로 촉각 피치 시스템 말고도 아까 잠깐 말씀드린 모든 소리를 촉각으로 전달해 인공 와우 수술을 선택하지 못하는 많은 청각 장애인에게도 소리를 느끼게 해 줄 수 있는 기술을 지속적으로 개발해 청각 장애인과 청인 사이에 존재하는 의사소통의 벽을 낮출 수 있도록 노력하겠습니다.

[앵커]
우리나라 청각장애인이 30만 명 선이라고 하던데요. 이 촉각 피치 시스템이 상용화되어서 정말, 이 30만 명의 청각장애인에게 큰 희망이 되기를 바라겠습니다. 오늘 말씀 고맙습니다.

[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]
예측할 수 없는 미래 사용 설명서