교회가 신앙 질문에 답하는 생성형 AI를 만든다면 무엇부터 정해야 할까.
답변의 정확도나 말투를 먼저 떠올리기 쉽습니다. 그러나 공개된 한 사례는 더 앞선 질문을 던집니다.
사람들은 이 도구를 누구로 받아들이며,
그 인상이 어떤 행동을 부르는가.
미국의 가톨릭 변증 단체 Catholic Answers가 내놓은 'Justin'의 변화는 작은 디자인 수정처럼 보이지만, AI 목회에서 역할 표시와 책임 경계가 기능만큼 중요하다는 사실을 또렷하게 보여 줍니다.
사제 모습의 챗봇이 평신도 변증가가 되기까지
Catholic Answers의 2024년 4월 24일 공식 설명에 따르면, 이 단체는 처음 챗봇 캐릭터를 'Fr. Justin'이라 부르고 사제 모습으로 제시했습니다. 지식과 권위를 표현하려는 선택이었습니다.
하지만 이용자들은 AI를 사제로 묘사하는 데 우려를 전했고, 단체는 그 피드백을 받아 'Fr.' 호칭을 떼고 평신도 캐릭터로 바꾸기로 했습니다.
공식 설명에는 누군가 컴퓨터 그래픽에게 성사적 사죄를 구할 가능성을 미처 예상하지 못했다는 대목도 나옵니다.
이는 AI가 실제로 사목 행위를 했다는 뜻이 아닙니다. 이용자가 시각적 권위와 대화 형식을 결합해 도구의 지위를 오해할 수 있음을 보여 주는 사건입니다.
2026년 9월 16일 확인한 현재 안내 페이지는 Justin을 '가상 변증가'로 부르며 교육·오락 목적이라고 밝힙니다. 좋은 본당 사제나 영적 지도자를 대체해서는 안 된다는 문구도 명시합니다. 대화가 품질 관리를 위해 익명화되어 사용될 수 있다는 안내와 개발 중이라는 고지도 있습니다.
이 사례의 핵심은 완성된 성공담이 아닙니다.
공개 후 받은 반응에 따라 캐릭터와 설명을 고치고,
도구의 자리를 다시 낮춘 운영 사례라는 데 있습니다.
정확한 답보다 먼저 설계해야 할 '역할의 문법'
교회 서비스에서는 이름, 옷차림, 목소리, 첫인사, 답변 어미가 모두 기능입니다.
화면에 "AI"라고 작게 적어 놓아도, 목회자와 닮은 얼굴이 "제가 당신을 위해 판단하겠습니다"라고 말하면 사용자는 권위를 더 크게 느낍니다.
반대로 "공개 자료를 찾아보는 안내 도구이며 목회 상담과 교리 판단을 대신하지 않는다"고 첫 화면과 매 대화의 중요한 갈림길에서 반복하면 기대를 낮출 수 있습니다.
이 점은 단순한 이미지 관리가 아닙니다.
NIST의 생성형 AI 위험관리 프로필은 인간과 AI의 배치 방식 자체가 의인화, 자동화 편향, 과도한 의존, 정서적 얽힘을 낳을 수 있다고 정리합니다. 또한 생성형 AI가 틀린 내용을 확신에 찬 문장으로 제시하는 'confabulation'과 개인정보 유출·비인가 사용 위험을 별도 항목으로 다룹니다.
교리 질문처럼 이용자가 확신을 구하는 영역에서는 유창함이 검증의 증거로 오인되기 쉽습니다.
그러므로 교회형 챗봇의 첫 설계 문서는
"무엇을 답할까"가 아니라
"무엇인 척하지 않을까"에서 출발해야 합니다.
공개 Q&A봇은 답변기가 아니라 연결 장치여야 합니다
목회적으로 유익한 쓰임은 사람을 대신하는 데 있지 않고, 사람이 책임 있게 만날 수 있도록 입구를 정리하는 데 있습니다.
예배 시간, 공개된 신앙교육 자료, 용어 설명, 새가족 절차처럼 이미 공개되고 변경 이력이 관리되는 정보는 비교적 안전한 범위입니다.
반면 다음 질문은 즉시 사람에게 넘겨야 합니다.
· 구원 여부의 단정
· 죄책을 다루는 권면
· 위기 상담
· 성례 또는 예식의 효력 판단
· 개인의 질병·가정사·재정이 섞인 질문
좋은 이관은 "목회자에게 물어보세요" 한 줄로 끝나지 않습니다.
이용자가 민감한 내용을 더 입력하지 않도록 멈춤 문구를 보여 주고, 긴 대화를 복사하지 않은 채 공식 연락 경로를 안내해야 합니다. 긴급 위험을 암시하는 표현에는 지역의 공적 긴급지원 수단을 우선 제시하되, AI가 위험도를 진단했다고 말해서는 안 됩니다.
질문을 저장해야 한다면 원문 전체보다 주제 분류와 미해결 여부만 남기는 편이 낫습니다.
연결의 품질은 AI가 얼마나 많이 아는지가 아니라,
언제 물러나고 누구에게 책임을 돌려주는지로 평가해야 합니다.
작은 교회가 적용할 수 있는 7단계 점검
공개 자료만 모아 답변 근거 저장소를 만들고, 문서마다 책임자와 갱신일을 붙입니다.
2. 상담·심방·교인명부·아동 정보·헌금·인사 자료는 애초에 수집 대상에서 제외합니다.
3. 캐릭터는 목회자 직함과 성직 복식을 피하고, 첫 화면에 기계임을 분명히 밝힙니다.
4. 허용 질문과 금지 질문을 표로 만들고, 금지 영역에는 사람 연결 문구를 붙입니다.
5. 교역자와 평신도 검토자가 실제 질문뿐 아니라 애매한 질문, 공격적 질문, 거짓 전제가 든 질문으로 시험합니다.
6. 답변마다 근거 링크와 '확인되지 않음' 표시가 제대로 나오는지 살핍니다.
7. 제한된 기간의 시범 운영 뒤 오답, 이관 실패, 민감정보 입력 시도를 기록해 계속할지 중단할지 결정합니다.
평가표도 정확도 하나로 만들지 말아야 합니다. 다음을 함께 보아야 합니다.
· 근거와 답변이 일치하는가
· 모르는 것을 인정하는 비율은 얼마인가
· 사람에게 넘겨야 할 질문을 놓치지 않는가
· 특정 교파나 집단을 부당하게 일반화하지 않는가
· 삭제 요청을 처리할 수 있는가
· 저작권이 있는 자료를 길게 재현하지 않는가
대화 기록을 검수할 때는 접근 권한과 보존 기간을 최소화하고, 품질 개선을 명분으로 상담 내용을 다시 학습시키지 않는다는 원칙을 세워야 합니다.
시범 운영은 관성에서 벗어나야 합니다
"도입했으니 유지한다"는 흐름을 경계해야 합니다.
예를 들어 네 주 동안 공개 정보 질문만 받고, 매주 표본 답변을 원문 자료와 대조합니다. 오답 수만 세지 말고, 오답이 얼마나 늦게 발견됐는지, 이용자가 그 답을 신뢰하게 만든 표현은 무엇이었는지, 사람 연결 뒤 실제 응답이 가능했는지까지 검토합니다.
반복되는 질문은 교회 홈페이지의 설명이 부족하다는 신호일 수 있습니다. 챗봇을 더 훈련하기 전에 원본 안내문부터 고치는 편이 낫습니다.
반대로 민감한 고백이 계속 입력되거나 이관 경로가 감당할 수 없다면 기능을 줄이거나 서비스를 멈춥니다.
중지는 실패가 아니라 돌봄의 한 방식입니다.
운영위원회에는 기술 담당자만이 아니라 목회자, 교육 담당자, 개인정보 책임자, 실제 이용자 관점을 대변할 사람이 함께 참여해야 합니다.
월별 보고서에는 질문 원문 대신 범주별 건수, 근거 없는 답변, 이관 성공 여부, 삭제 처리 시간을 남깁니다. 이렇게 해야 호기심 많은 몇 사람의 만족도가 아니라 공동체 전체의 안전과 유익을 기준으로 다음 결정을 내릴 수 있습니다.
윤리·목회적 주의점 — 면책문구만으로는 부족합니다
바티칸의 2025년 문서 Antiqua et Nova는 AI를 사람이 아니라 도구로 이해해야 하며, 의인화가 인간과 기계의 경계를 흐릴 수 있다고 지적합니다. 또 진정한 관계에는 타인의 고통과 기쁨 곁에 실제로 머무는 일이 필요하다고 강조합니다.
이 통찰은 교파를 넘어 실무적인 질문을 남깁니다. 안내문을 붙였는가보다, 화면과 운영 전체가 그 안내와 같은 방향을 가리키는가를 보아야 합니다.
목회자는 AI 답변의 최종 승인자일 수는 있어도, 모든 대화를 혼자 감시하는 무한 책임자가 되어서는 안 됩니다. 담당자, 검토 주기, 사고 대응, 서비스 중지 권한을 공동체의 정책으로 정해야 합니다.
이용자에게는 수집 항목, 이용 목적, 보존 기간, 삭제 방법을 쉬운 말로 알리고, 이름·연락처·건강·가족 사정은 입력하지 말도록 반복 안내해야 합니다.
성경과 신학 자료는 출처를 확인하고, 번역문이나 저작물을 과도하게 복제하지 않으며, 교리적 차이와 모델의 편향도 사람이 점검해야 합니다.
좋은 AI는 제자리를 아는 도구입니다
Justin 사례가 남긴 가장 유용한 교훈은 실수를 하지 않는 AI를 기다리라는 것이 아닙니다.
도구가 맡지 말아야 할 직분을 외형으로도 암시하지 말고, 이용자의 오해를 실제 피드백으로 받아 빠르게 수정하라는 것입니다.
교회의 공개 Q&A봇은 목회자의 얼굴을 쓴 대리자가 아니라, 검증 가능한 자료를 가리키고 적절한 사람에게 길을 내주는 표지판에 가까워야 합니다.
영적 분별, 설교의 책임, 죄와 고통을 함께 견디는 관계는 효율화의 대상이 아닙니다.
AI가 그 경계를 더 분명히 지킬 때,
비로소 공동체의 시간을 아끼면서도
사람을 놓치지 않는 보조 도구가 될 수 있습니다.
참고 자료
· Catholic Answers, 'Fr. Justin' 관련 공식 설명 (2024-04-24) 및 Justin 안내 페이지 (확인 2026-09-16)
· Artificial Intelligence Risk Management Framework: Generative AI Profile, NIST AI 600-1 (확인 2026-09-16)
· Antiqua et Nova, 교황청 신앙교리성·문화교육부 (2025) (확인 2026-09-16)
이 글은 손하람 목사의 창가에 2026. 9. 16에 올린 글을 옮긴 것입니다.