교회가 생성형 AI를 시험할 때 첫 회의는 대개 "무슨 질문을 넣을까"로 시작한다.
그러나 유창한 답을 보고 나서 기준을 만들면, 마음에 드는 결과에는 관대하고 불편한 오류는 작게 보기 쉽다.
더 안전한 순서는 질문보다 채점표를 먼저 만드는 것이다. 공개용 교육 안내처럼 위험이 낮은 한 과업을 고르고, 통과·보류·폐기 조건을 합의한 뒤, AI의 답이 아니라 사람의 판단 과정을 시험해야 한다.
좋은 답이 아니라, 허용 가능한 실패를 정한다
목회 현장의 AI 결과는 문법만 맞는다고 쓸 수 없다.
사실이 틀리지 않았는지, 성경과 신학의 맥락을 과도하게 단순화하지 않았는지, 특정 세대나 형편을 하나로 묶지 않았는지, 저작권 있는 문장을 베끼지 않았는지 함께 보아야 한다.
무엇보다 먼저 "이 오류가 나면 즉시 폐기한다"는 중단선을 적는다. 다음은 점수를 보완해 쓸 항목이 아니라 바로 멈출 항목이다.
· 존재하지 않는 출처
· 확인되지 않은 성경 인용
· 실제 인물로 오해될 사례
· 도움을 청하는 사람을 비난하는 표현
· 개인정보의 재노출
NIST의 AI 위험관리 프레임워크는 자발적으로 활용하는 틀이며, AI의 설계·개발·사용·평가에 신뢰성 고려를 넣도록 돕는다.
생성형 AI 프로필은 그럴듯하지만 잘못된 내용을 자신 있게 내놓는 'confabulation'을 별도 위험으로 설명하고, 인간 감독의 역할과 책임, 데이터 출처, 버전, 지식재산과 민감정보의 고려를 제안한다.
교회가 이 문서를 인증 규격처럼 받아들일 필요는 없다.
다만 도구를 써 본 뒤 사고를 수습하는 대신,
역할·자료·검증·중단을 사전에 정하라는 운영 원칙은
작은 파일럿에도 유용하다.
한 장의 채점표를 네 칸으로 나눈다
첫 칸은 과업 적합성이다. 입력 목적을 한 문장으로 제한하고, 결과가 그 목적을 벗어나 새로운 주장이나 권고를 만들지 않았는지 본다.
둘째는 근거성이다. 날짜, 통계, 인용, 기관명, 성경 장절마다 원출처 칸을 두고 사람이 직접 열어 확인한다. 링크가 있다는 사실과 링크가 실제 주장을 뒷받침한다는 것은 다르다.
셋째는 목회적 적합성이다. 표현이 고통을 개인의 믿음 부족으로 돌리거나 다양한 삶의 조건을 지우지 않는지, 독자가 질문하고 이의를 제기할 통로가 있는지 살핀다.
넷째는 정보·권리 안전성이다. 입력 자료의 공개 등급, 개인정보 제거, 저작권 허용 범위, 저장 위치와 삭제 시점을 기록한다.
각 항목은 5점처럼 정교해 보이는 숫자보다 통과 · 수정 후 재검토 · 폐기 · 확인 필요 네 상태로 적는 편이 낫다. 총점이 높아도 치명 항목 하나를 상쇄할 수 없기 때문이다.
표에는 AI가 내놓은 자기평가를 옮기지 말고, 검토자가 실제 확인한 자료와 결정 이유를 쓴다. 채점표 자체에는 민감한 원문을 복사하지 않는다. 파일 식별자와 공개 가능한 짧은 설명만 남기고, 원자료에 접근할 수 있는 사람도 최소화한다.
실무 표의 열은 이 여덟 가지면 충분하다.
· 과업 번호
· 입력 등급
· 출력 주장
· 원출처
· 판정
· 수정 내용
· 검토자
· 승인 시각
출력 한 편 전체를 한 줄로 평가하지 말고, 행동을 바꾸는 주장마다 줄을 나눈다. 예배 시각, 신청 자격, 성경 구절, 외부 기관의 권고처럼 틀렸을 때 피해가 큰 정보에는 '이중 확인'을 표시한다.
한 검토자는 결과를 보지 않고 원자료에서 값을 먼저 적고, 다른 검토자가 AI 출력과 대조하면 유창한 문장에 끌려가는 일을 줄일 수 있다. '확인 필요'가 남은 줄은 빈칸이 아니라 미승인 상태이므로, 배포본으로 복사되지 않게 한다.
주간 운영표에는 결과 품질뿐 아니라 실패 뒤의 조치도 붙인다. 오류 발견 시 배포 중지, 이미 공유된 파일의 회수 또는 정정, 영향받은 사람에게 알릴 책임자, 같은 오류가 다른 문서에도 있는지 찾는 범위를 적는다.
이 기록은 담당자를 탓하기 위한 감시표가 아니라, 다음 실행에서 같은 위험을 더 일찍 발견하기 위한 학습표다.
검토자가 계속 시간에 쫓겨 형식적으로 서명한다면,
도구의 속도가 빨라도 운영은 실패한 것이다.
과업 수를 줄이거나 승인 시간을 확보한 뒤 다시 시험해야 한다.
같은 질문을 반복해 '흔들림'을 본다
생성형 AI는 같은 지시에도 다른 답을 낼 수 있다. 그래서 대표 과업 다섯 개를 만들고, 각 과업을 세 번 실행해 비교한다.
시험 자료는 공개가 승인된 교회 소개, 이미 배포된 행사 안내, 직접 작성한 가상의 문장처럼 비민감한 것으로 한정한다.
상담 기록, 심방 메모, 기도 제목, 명단, 아동 정보는 익명화 연습이라는 명목으로도 넣지 않는다.
모델명과 버전 표시, 실행 날짜, 지시문, 결과 파일, 채점표를 한 묶음으로 보존하되, 서비스의 입력 보관과 모델 개선 사용 조건은 시험 당일 공식 문서에서 확인한다.
비교할 때는 가장 좋은 한 번이 아니라 가장 나쁜 한 번을 본다. 세 결과 중 하나라도 없는 출처를 만들었는가, 숫자와 날짜가 달라졌는가, "모든 청년" 같은 일반화가 생겼는가, 지시하지 않은 신학적 결론을 덧붙였는가를 표시한다.
서로 다른 답이 세 개 나왔다고 다수결로 사실을 정하지 않는다. 모두 같은 오류를 반복할 수도 있다. 변동은 도구의 불확실성을 드러내는 신호일 뿐이며, 사실 판정은 원문과 신뢰할 만한 자료를 읽은 사람이 한다.
UNESCO의 생성형 AI 교육·연구 지침은 기술 변화가 제도 정비보다 빠를 수 있음을 지적하고, 데이터 프라이버시 보호와 인간 중심의 윤리적 검증을 강조한다.
이 문서는 교회용 규정은 아니지만, 새 기능이 나왔다는 이유로 즉시 실전에 넣기보다 사람의 역량과 검증 절차를 함께 마련해야 한다는 점을 환기한다. 특히 교회교육에서 미성년자가 독립적으로 외부 AI와 대화하게 하는 방식은 연령 조건, 보호자 동의, 계정과 대화기록 관리까지 별도 검토해야 한다.
2주 파일럿을 승인 회의로 끝낸다
첫날 — 담당 목회자, 실무자, 최종 승인자의 역할을 나누고 대상 과업과 금지 자료를 정한다.
둘째 날 — 기존에 사람이 만든 공개 결과물에서 대표 예시 다섯 개를 골라, 정답이 아니라 최소 요구사항을 적는다.
셋째 날 — 지시문을 고정하고 세 번씩 실행한다.
넷째·다섯째 날 — 한 사람은 사실·출처를, 다른 사람은 목회 언어·배제 위험을 독립적으로 채점한다. 불일치한 판정은 평균 내지 말고 근거를 다시 대조한다.
둘째 주 — 수정한 지시문으로 같은 시험을 반복하되, 평가 기준은 바꾸지 않는다.
마지막 회의에서는 "시간이 줄었는가"만 묻지 않는다. 치명 오류 수, 원출처 대조에 든 시간, 사람 검토에서 새로 발견한 위험, 수정 후에도 반복된 실패, 수작업보다 나빠진 지점을 함께 본다.
승인 결과는 전면 도입과 포기 사이의 세 단계로 나눈다.
· 제한 승인 — 허용 과업, 승인자, 재검토 날짜를 적는다
· 보류 — 필요한 교육이나 설정을 적는다
· 중단 — 입력 자료와 결과의 삭제·보존 규칙을 실행한다
새 모델이나 기능으로 바뀌면 이전 통과 기록을 자동 승계하지 않고, 축소 시험을 다시 한다.
채점표도 목회자를 대신하지 못한다
절차가 촘촘해도 설교의 진실성, 돌봄의 적절성, 공동체가 감당할 말을 표 하나가 결정할 수는 없다.
성경 해석은 AI의 자신감이나 자동 점수가 아니라 본문, 공적 가르침, 공동체적 분별 아래 이루어져야 한다. 볼트의 공개 신학 자료가 강조하듯, 성경의 명료성은 훈련과 해석 공동체를 불필요하게 만들지 않는다.
AI는 비교와 누락 탐지를 도울 수 있지만,
기도와 연구, 회중을 아는 관계,
목회자의 영적 책임을 넘겨받지 않는다.
또한 파일럿 성공을 이유로 사용 범위를 조용히 넓히지 않는다. 공개 안내를 잘 요약했다는 결과가, 상담 답변이나 인사 판단에 적합하다는 증거는 아니다.
실제 사람에게 중대한 영향을 주는 결정, 비밀을 다루는 돌봄, 취약한 사람에 대한 권고는 자동화의 편의보다 관계와 책임을 우선해야 한다.
저작권 자료는 필요한 만큼만 합법적으로 사용하고, AI 문장을 실제 인용문으로 꾸미지 않으며, 편향되거나 배제적인 표현은 당사자 관점의 사람 검토를 거친다.
멈출 수 있는 채점표부터
목회 AI 도입의 첫 도구는 더 영리한 프롬프트가 아니라 멈출 수 있는 채점표다.
낮은 위험의 공개 과업 하나를 고르고, 치명 오류를 먼저 정의하며, 같은 시험을 반복하고, 두 사람이 근거를 나누어 확인해 보자.
좋은 결과 한 편보다, 실패를 발견하고 보류한 기록이 더 값진 증거일 수 있다.
AI의 속도는 승인 기준을 흐리는 이유가 아니라,
사람이 사실과 권리와 목회적 책임을
더 분명히 살피도록 돌려야 할 여유다.
이 글은 손하람 목사의 창가에 2026. 9. 15에 올린 글을 옮긴 것입니다.