어디까지 맡길 것인가 — 안전하게 쓰기 위한 판단 기준

6.1 맡겨도 되는 일, 맡기면 안 되는 일

Claude 활용의 첫 판단은 '이 일을 맡겨도 되는가'입니다. 기준은 두 가지입니다. 결과가 틀렸을 때 파급이 어디까지 가는가, 그리고 사람의 검토가 중간에 들어갈 수 있는가. 초안 작성·회의록 요약·아이디어 발산처럼 사람이 다듬어 완성하는 일은 잘 맞습니다. 반면 채용 합격 판정, 대출 승인, 의료·법률 판단처럼 사람의 책임이 걸린 최종 결정을 AI 단독으로 내리게 하면 안 됩니다. 'AI는 초안, 결정은 사람'이라는 원칙 하나를 세워 두면 시나리오 문항 대부분에서 선택지가 갈립니다.

6.2 데이터 민감도부터 확인합니다

입력창에 데이터를 넣기 전에 그 데이터의 등급부터 확인합니다. 고객의 이름·연락처 같은 개인정보, 미공개 실적, 계약서 원문은 개인정보 보호법과 업권별 규제(금융·의료 등)의 적용 대상입니다. 실무 리트머스는 하나입니다 — '이 파일을 외부 협력사에 이메일로 보내도 되는가?' 보내면 안 되는 데이터라면 AI에도 그대로 넣으면 안 됩니다. 꼭 써야 한다면 이름·번호를 가리는 가명처리를 먼저 하고, 조직이 승인한 업무용 환경(Claude for Work 등)에서만 다룹니다.

6.3 회사의 기준 안에서 움직입니다

AI 사용의 기준은 개인의 감이 아니라 조직의 문서입니다. 허용된 도구 목록, 입력 금지 데이터, 산출물 검토 절차, 기록 보존 — 사내 AI 지침의 뼈대는 대개 이 네 가지입니다. 지침이 있으면 따르고, 모호하면 임의로 판단하지 말고 담당 부서에 확인합니다. 팀 차원에서는 시스템 프롬프트(system prompt)나 프로젝트 지침에 조직 기준을 미리 적어 두는 방식이 실무적인 가드레일(guardrail)이 됩니다 — 매번 사람이 기억하는 대신, 도구가 기준을 먼저 지키게 만드는 것입니다.

6.4 결과의 책임은 사람에게 있습니다

산출물이 회사 이름으로 나가는 순간, 책임은 도구가 아니라 사용한 사람과 조직에 있습니다. 그래서 내보내기 전에 세 가지를 봅니다. 사실 확인 — 환각(hallucination)으로 만들어진 수치나 출처가 섞였는지 원문과 대조합니다. 편향 — 학습 데이터의 치우침이 특정 집단에 불리한 표현으로 나타날 수 있어, 채용·평가처럼 사람을 다루는 문서일수록 꼼꼼히 봅니다. 투명성 — 대외 공개 자료나 고객 안내처럼 AI가 만든 산출물임을 밝혀야 하는 상황에서는 조직의 표기 기준을 따릅니다.

! 흔한 함정

• 업무용 계정이니 무엇이든 넣어도 된다는 착각 — 플랜과 설정에 따라 데이터 처리 방식이 다르므로, 민감 데이터는 조직이 승인한 환경인지 먼저 확인해야 합니다.
• 사내 AI 지침이 없으면 자유라고 여기는 것 — 지침이 없어도 개인정보 보호법 같은 법적 규제는 그대로 적용됩니다.
• 'AI가 썼으니 AI 책임'이라는 생각 — 산출물을 검토하고 내보낸 사람과 조직이 책임을 집니다.
• 저위험 반복 업무라고 검토를 생략하는 것 — 자동화된 업무일수록 틀린 산출물이 한 번에 대량으로 퍼집니다.