커뮤니티에서 퍼진 “AI 금지어 테스트” 놀이문화

디시인사이드, FM코리아, 레딧 등의 커뮤니티에서는 수년 전부터 “AI 한계 테스트”가 하나의 놀이 문화로 자리 잡았습니다. 어떤 단어를 입력하면 거절하는지, 어떤 방식으로 우회하면 통하는지, GPT와 Claude 중 어느 쪽이 더 엄격한지를 공유하는 글이 주기적으로 화제가 됩니다.

흥미로운 점은 이 테스트들이 단순한 장난에 그치지 않고, AI의 실제 작동 방식에 대한 진지한 분석으로 이어진다는 것입니다. 유저들이 수백 번의 실험을 통해 경험적으로 파악한 패턴들은 때로 AI 연구자들의 공식 논문보다 더 직관적입니다.

AI가 거절하는 두 가지 방식 — 1차·2차 필터

AI가 특정 요청을 거절할 때는 크게 두 단계의 필터가 작동합니다. 커뮤니티 유저들의 반복적인 테스트로 경험적으로 파악된 내용입니다.

커뮤니티에서 자주 언급되는 “내용은 같은데 단어만 바꾸면 된다”는 경험은 1차 필터의 키워드 의존성 때문입니다. 반대로 “처음에는 됐는데 나중엔 갑자기 안 된다”는 현상은 2차 필터 또는 AI 모델 업데이트에 의한 것입니다.

카테고리별 민감도 차이 — 어떤 주제가 막히나

커뮤니티 테스트 결과들을 종합하면, AI들이 일관되게 민감하게 반응하는 주제와 상대적으로 유연한 주제가 구분됩니다.

GPT vs Claude — 검열 성향 차이 비교

커뮤니티에서 가장 많이 비교되는 주제입니다. 실제로 두 AI의 검열 성향은 다소 다릅니다. 어느 쪽이 더 낫다기보다, 특성의 차이입니다.

같은 질문인데 왜 어떤 날은 되고 어떤 날은 안 되나

이 현상은 특히 커뮤니티에서 “AI가 기분파냐”는 식의 반응이 나올 만큼 빈번하게 경험됩니다. 이 불일관성에는 몇 가지 기술적 이유가 있습니다.

AI 회사들이 검열을 강화하는 진짜 이유

표면적으로는 “안전한 AI”를 위한 것이지만, 사업적 이유도 큽니다. AI 회사들은 기업 고객을 대상으로 서비스를 판매하는데, 직원들이 업무에 AI를 사용할 때 문제적 콘텐츠가 나오면 기업 고객이 계약을 끊습니다.

검열이 너무 심하다는 비판과 균형점

과도한 검열에 대한 비판은 AI 사용자 커뮤니티 어디서나 나옵니다. “역사 소설 쓰려다 거절당했다”, “의학 정보 물었는데 막혔다” 같은 사례가 끊이지 않습니다. 실제로 일부 연구에서는 AI가 악의적 의도 없는 질문도 35~40%의 비율로 과도하게 차단한다는 분석도 있었습니다.

반대로 검열을 완전히 없애면 AI가 해킹·사기·혐오 표현 작성 도구로 쉽게 악용된다는 것도 사실입니다. AI 회사들이 “너무 막는다”와 “너무 풀어준다” 사이에서 균형점을 찾는 작업은 기술적이면서도 철학적인 문제입니다. 커뮤니티의 테스트 문화는 아이러니하게도 이 균형을 찾는 데 중요한 피드백 역할을 하고 있습니다.