AI 오작동 주의보! 인간과 로봇, 공존을 위한 최선은 무엇일까?

생활 속 깊이 자리 잡은 AI 시대, 그러나…

요즘은 집 근처 식당에만 가도 원하는 메뉴를 실어 나르는 로봇, 무인 주문 및 계산대 등을 흔히 볼 수 있는 AI 세상이다. 집안 어딘가에 연결된 스피커, 가구들 마저 날씨를 알려주는가 하면 역으로 온도와 기후 변화를 미리 예측해 해결 방안을 제시하기도 한다. 너무 익숙해서 잊고 지낼 정도로 가까이, 우리는 인공지능(AI)과 함께 살아가고 있으며 그 분야는 더욱 빠르게 확대되고 있다. 그러나 이렇게 인공지능을 탑재한 가전제품 등이 늘어나면서 이로 인한 부작용과 피해 사례도 늘어나고 있다. 어느 시대에나 처음 도입하고 시도하는 분야에서는 문제점이 제기되기 마련이지만 이를 어떻게 극복하고 해결하느냐에 따라 흥망성쇠가 걸려있다. 따라서 디지털 시대로의 진화가 가속화되고 있는 현시점에서 AI와 관련한 문제점을 알아보고, 이를 위한 해결책을 함께 찾으며 개선하기 위한 노력이 무엇보다 필요한 때이다.

 

< 출처 :  "‘“AI 스피커가 제멋대로 물건 주문”…일본 AI 오작동 주의보’ (미국 표준과학연구소 제공)", <서울신문>, 2020.08.03. >

 

오작동 예방Ⅰ. 제어장치는 한 번 더!

인공지능 탑재의 생활화가 일반화된, 최근 일본의 소비자청이 실시한 국민 의식조사에 따르면 한번이라도 AI 기기를 써본 적이 있는 사람의 약 80%가 “앞으로 AI 이용을 더 늘리고 싶다” 라고 응답했다고 한다. 그러나 이 조사에서는 “AI 스피커가 엉뚱한 물건을 주문했다”, “AI 청소기가 갑자기 작동해 화분을 쓰러뜨려 파손했다” 등 AI 제품의 부작용과 이에 따른 피해도 현실화되고 있는 것으로 파악됐다.

 

이러한 문제점은 특히 말을 걸면 제품을 조작하거나 정보를 알려주는 음성 지원 서비스(AI 스피커 등)에서 많이 발견되는 것으로 확인되었다. 가장 조심해야 할 부분은 AI 기기로 물건을 구입하고 대금을 지불하는 경우이다. 실제 경제적인 손실로 이어지는 사례도 종종 있기 때문에 이러한 경우에는 번거롭더라도 최종 확인 시, 비밀번호 입력 등을 거치도록 설정을 해 두는 것이 좋다고 전문가들은 조언하고 있다.

 

오작동 예방Ⅱ. 전문가, 전문 기관의 검증을 거치세요!

몸 상태나 섭취 음식 등 간단한 입력만으로 건강에 관한 도움을 받는 AI 건강지원 앱은 개인의 체질이나 건강 상태 등 다양한 요소를 충분히 고려하지 못해 부적절한 제안을 할 우려가 있다.

약을 복용해야 하는 시간, 적정량의 영양제, GPS를 활용한 근처 약국, 병원 찾기 등의 유용한 애플리케이션을 적절히 활용한다면 더없이 좋은 건강 매니저 역할을 하겠지만, 이 부분은 어디까지나 정보 수집 및 도움을 얻는 정도에서 활용하는 것을 권장하며 자세한 상담 및 진료는 반드시 전문가인 의사와 상의하여 결정해야 한다.

 

뿐만 아니라 기존 텔러의 업무를 대신하는 AI의 대출심사는 기존에 신규 차입이 힘들었던 소비자들에게도 대출을 허용함으로써 개인의 과도한 채무 부담까지 생길 수 있다고 경고했다. 인공지능이 금융과 연결될 때 특히 조심해야 할 것들이 많은데 이는 개인의 정보, 가정의 경제와도 연결될 수 있는 부분이므로 충분한 판단을 거친 뒤 실행에 옮겨야 한다. 다시 말해 절차만 가볍고 쉬워졌을 뿐, 내용은 사람이 하던 것과 다르지 않다는 것을 기억하고 금융 전문가, 해당 기관의 도움을 적극적으로 활용해야 한다.

 

< 출처 : "“AI 오작동 막는다” 지능정보사회 대비한 중장기 보안대책 마련", <디지털데일리>, 2016.12.29. >

 

오작동 예방Ⅲ. 정부와 민간 기업의 공동 대책 마련

이미 과학기술정보통신부에서는 사이버 보안 빅데이터 센터를 운영하면서 국내외에서 발생하는 위협 정보를 서비스하고 있다. 파트너십을 맺은 보안 기업과 기관들로부터 위협 정보를 제공받아 분석해 새로운 위협을 찾아 공동 대응하는 시스템을 가동 중이다.

사이버 보안 빅데이터 센터에서 제공하는 데이터를 통해 보안 시스템을 개선한 사례로는 피싱 사이트 차단, 악성 도메인 예측 등이 있다. 침해 사고 조합 분석 플랫폼을 모니터링하여 사고를 미리 탐지하는 것도 가능하다. 이렇게 AI를 이용해 AI로 인한 부작용 사례를 찾아내고 해결하는 노력이 활발히 이어지고 있으며, 이를 통해 더욱 희망적인 인공지능 시대가 예측 가능한 상황이다.

 

< 출처 : "‘AI 로봇, 사회적 차별 '안돼'…정부, 최초로 AI 윤리 가이드라인 마련 착수", <전자신문>, 2017.10.10. >

 

4차 산업혁명 시대에 진입하고 코로나19에 따른 언택트(비대면)가 확산되면서 AI는 이제 산업 전반에 걸쳐 핵심 기술로 급부상했다. 하지만 AI 분야 기술 표준이 정립되지 않아 세계 각지에서 AI 기반 제품의 오작동에 따른 문제가 계속 보고되고 있다. 사례를 통해 살펴보았듯이 아직 AI가 모든 분야의 만능은 아니다. AI의 오∙탐지 가능성은 언제나 열려있는 상황이므로 AI를 사용하는 동안 더 많은 연구 기간을 할애하여 분석하고, 결과를 점검하고, 정확도를 개선하고 수정하는 노력이 필요하다.

 

앞으로 AI를 비롯한 디지털 전환(DT)은 현재의 문제점을 얼마나 잘 개선하느냐에 달려 있다 해도 과언이 아닐 것이다. 인공지능(AI) 역시 사람이 만든 기술이라는 점을 잊지 말자!

 

[출처]

- “’AI 스피커가 제멋대로 물건 주문’…일본 AI 오작동 주의보”, <서울신문>, 2020.08.03.

- “[2020 보안 키워드] ④양날의 검, AI”, <데이터넷>, 2020.01.02.

- “표준협회, 세계 최초 인공지능 인증 'AI+' 수여…"포스트 코로나 시대 큰 역할””, <전자신문>, 2020.07.30.