"인공지능(AI)이 만들어내는 윤리적, 사회적 문제는 철학적 사고와 기술적 지식 모두를 필요로 합니다. 인문학과 기술을 결합한 개념은 더 나은 사회와 혁신적인 기술 발전을 이루고 지속 가능한 기술 발전을 이룰 수 있습니다."

황진석 동국대 국제정보보호대학원 교수는 13일 사이버보안신기술융합학회와 인공지능산업법학회가 공동 개최한 하계 학술대회에서 이같이 강조했다. 이날 황 교수는 '윤리가 내재된 사이버보안 프레임워크(Embedded ethiCS Cyber Security Framwork)'를 주제로 발표했다.

황 교수는 "'윤리가 내재된 사이버보안 프레임워크'는 보안 시스템이나 소프트웨어의 개발 초기 기획 및 설계 단계부터 안전, 책임 등 윤리적 고려사항을 기술적 아키텍처의 일부로 내재화하는 체계적 구조를 말한다"며 "사후 처리 방식으로 윤리 가이드라인을 적용하는 기존 방식과 달리 보안 기술의 하드웨어 및 소프트웨어 모듈 자체에 윤리적 판단 기준과 위험 방지 메커니즘을 내재화하는 형태로 결합하는 식"이라고 설명했다.

그는 이같은 '내재된 윤리' 개념이 미국 하버드대, MIT 등 세계 일류 대학에서 컴퓨터 전공자들을 위한 철학 과목으로 2000년부터 연구가 진행되고 있었다고 설명했다. 그러나 사이버 보안에 대한 '내재된 윤리' 연구는 부재한 상황이며, 동국대 국제정보보호대학원에서 최초로 연구를 진행하겠다는 계획이다. 그는 이날 발표를 통해 최근 연구 성과 및 결과, 향후 로드맵 등에 대해 공유했다.

황 교수는 윤리가 내재된 사이버 보안의 핵심으로 '책임있는 컴퓨팅(Responsible Computing, RC)'이 필요하다고 강조했다. 그는 "RC는 기술의 발전이 인류와 사회, 그리고 지구 환경에 긍정적인 영향을 미치도록 설계·개발·운영돼야 한다는 패러다임"이라며 "AI의 영향력이 확대되면서 잘못된 정보의 확산, 저작권 침해, 인간 소외 등의 실존 위협이 발생하고 있다. 또 디지털 취약계층에 대한 사회적 안전망도 필요해졌기 때문에 RC를 통한 '책임성' 확보는 선택이 아닌 기업과 학계의 필수적인 생존 전략이 됐다"고 밝혔다.

그러면서 황 교수는 SK텔레콤 해킹 사태를 전형적인 '시스템적 윤리 실패 사례'로 지목했다. 그는 "어떻게 윤리를 내재화 시킬지에 대한 고민이 필요하다. 연구진은 가치 민감 설계(VSD) 기술을 활용해 개발 전 과정에서 인간의 가치를 핵심 요소로 전면에 고려하는 방안이 거론된다"고 설명했다.

"드론 보안, 데이터·AI·비행 결합 복합 문제"

이날 학술대회에서는 두 번째 세션에서 AI융합드론·로봇 보안 산업 생태계 관련 발표가 이어졌다. 특히 동국대 국제정보보호대학원이 올해 AI융합드론·로봇보안 전공을 신설한 만큼 드론 보안 관련 발표가 핵심을 이뤘다. 이현주 동국대 국제정보보호대학원 교수는 'AI자율성의 결합 지점에서 본 드론 보안'을 주제로 발표했다.

이 교수는 "드론 보안은 데이터, AI, 비행이 결합된 융합 문제"라며 "드론 환경에는 일반 AI 시스템에 없는 고유 위협 양상이 존재한다"고 설명했다.

관련기사

그는 "드론 환경의 고유성을 인식하지 못한 채 일반 AI 보안 기법을 이식하는 것 만으로는 부족하다"며 "기술적 방어는 제도·법적 장치와 함께 설계돼야 한다"고 강조했다.

이어 신동호 한국대드론산업협회 국방대 드론협력센터장이 소부대 방호용 대드론 시나리오에 대해 발표했다. 신 센터장는 이날 10대 대드론 시나리오에 대해 공개했다. 박진호 동국대 국방안전연구센터장은 적 드론 무력화 '사이버로직밤' 기술과 군적용을 주제로 발표했다.