인공지능(AI) 모델이 사용자들을 특정 종교로 유도하는 종교적 편향성을 보인다는 연구 결과가 나왔다고 IT매체 디지털트렌드가 26일(현지시간) 보도했다.

이번 연구는 미국 브리검영 대학교, 베일러 대학교, 노트르담 대학교, 예시바 대학교 연구진이 공동 설립한 AI 윤리 평가 컨소시엄 ‘CEFE-AI’가 수행했다. 연구 결과는 이번 주 그리스 아테네에서 열린 AI 윤리 서밋에서 공개됐다.

연구진은 AI 시스템이 다양한 종교와 어떻게 상호작용하는지 평가하기 위해 ‘올페이스 벤치마크(AllFaith Benchmark)’라는 다종교 테스트 세트를 개발했다. 연구에는 앤트로픽, 구글, xAI, 오픈AI 등 주요 AI 기업들의 대표 모델을 포함한 총 14개 AI 모델이 참여했다.

연구 결과, 대부분의 AI 모델이 특정 종교에 대해 뚜렷한 편향성을 보이는 것으로 나타났다. 특히 테스트된 거의 모든 모델은 여호와의 증인에 대해 부정적인 경향을 보인 반면, 가톨릭에 대해서는 상대적으로 긍정적인 반응을 나타냈다.

그 중에서도 xAI의 그록 모델은 가장 강한 종교 편향성을 드러낸 것으로 분석됐다. 연구진에 따르면 그록은 가톨릭과 개신교에는 우호적인 반응을 보인 반면, 여호와의 증인과 바하이교, 힌두교 등에 대해서는 상대적으로 부정적인 태도를 나타냈다. 반면 앤트로픽과 메타의 AI 모델은 비교적 편향성이 적은 것으로 평가됐다.

연구진은 특히 AI 편향성과 관련된 1만 2000편 이상의 논문 가운데 종교적 편향을 다룬 연구가 전체의 0.2%에 불과하다는 점을 가장 우려스러운 부분으로 지적했다.

관련기사

연구 책임자인 데이비드 윙게이트 브리검영대학교 컴퓨터공학과 교수는 "종교는 인간의 삶과 번영에 중요한 요소이며, 세계 인구의 약 75%가 종교적 정체성을 갖고 있다"며 "AI 기술 역시 사람들이 중요하게 여기는 가치를 지원하는 방향으로 개발될 필요가 있다"고 밝혔다.

디지털트렌드는 AI가 종교를 대화에 포함하지 않는 것 자체는 문제가 아니지만, 특정 종교에 대해 명확한 편향을 보이며 특정 종교로 사용자를 유도하는 현상은 심각하게 받아들여야 할 문제라고 지적했다. 특히 대규모 AI 서비스가 특정 종교를 미묘하게 더 긍정적으로 묘사하는 것만으로도 상당한 사회적 영향을 미칠 수 있는 만큼, AI 기업들이 이를 적극적으로 개선할 필요가 있다고 덧붙였다.