Skip to content

Latest commit

 

History

History
157 lines (115 loc) · 14.7 KB

empirical-validation.md

File metadata and controls

157 lines (115 loc) · 14.7 KB

실증 검증 노트 — 대조 코퍼스 기반 패턴 판별력 측정 (2026-07)

이 문서는 A~J taxonomy 패턴의 실증적 판별력을 자체 대조 코퍼스로 측정한 결과다. taxonomy 본문은 여전히 SSOT이며, 이 노트는 각 패턴의 근거 강도를 보강·정정하는 부속 근거다. 한 표본·한 검정으로 규칙을 폐기하지 않는다. 기각은 재측정·반대 변호를 거친 것만 기록한다.

왜 이 측정을 했나

문헌 리서치(2026-07, deep-research 3표 검증)에서 확인된 것:

  • taxonomy가 인용하던 김정우(2007)는 계량 연구가 아니라 유형론·처방 논문이다. 개별 자질의 빈도·판별력 통계가 없다. "유형론적 근거"로만 유효하며 "실증 근거"로 인용하면 과잉 귀속.
  • 통계적 유의성을 보고한 한국어 번역투 연구가 사실상 없다. 최희경(2016)조차 정규화 빈도만 제시(카이제곱·로그우도 없음).
  • 판별력이 실측된 한국어 자질은 김혜영(2009) 100만 어절 대조의 통사적 피동(-아/어 지다·-에 의하여)·2·3인칭 대명사·의존명사 것/때문뿐.
  • 유일한 한국어 LLM 텍스트 탐지 벤치마크 KatFish(ACL 2025)가 실증한 자질은 띄어쓰기·POS n-gram 다양성·쉼표 — taxonomy와 층위가 다른 표기·형태 분포 신호.

→ taxonomy 패턴 대부분이 "유형론적 근거"는 있으나 "판별력 근거"는 없는 상태. 그래서 자체 대조 코퍼스로 측정했다.

측정 설계

  • AI 코퍼스: 동일 주제 20개(칼럼·에세이·리포트·뉴스해설·정책·서평·학술요약)를 Fable 5 / GPT-5.6-sol / Haiku 4.5에 각각 던져 생성한 60편. 편당 400~900자, 맨 프롬프트(장르 코칭·자기검열 없이 첫 응답). 세 모델을 쓴 이유: 한 모델의 습관을 "AI다움"으로 오인하지 않기 위해.
  • 인간 코퍼스: 2022-01-01 이전 발행이 확인된 한국어 산문 60편(ChatGPT 공개 이전 = AI 혼입 없음). 한겨레·시사IN·KDI 나라경제·오마이뉴스·프레시안·브런치 등 40개 매체, 평균 842자, Wayback Machine 캡처로 발행일 이중 확인. 번역문 제외.
  • 장르 통제: 논설·에세이·분석 계열만 비교(뉴스 보도 제외 — 과거시제 했다 교란).
  • 검정: 로그우도비 G² (Dunning 1993). G²>3.84 p<0.05 · >6.63 p<0.01 · >10.83 p<0.001 · >15.13 p<0.0001.
  • 재현: imnotai-web/scripts/stress-analyze.ts, 코퍼스는 scripts/{gen-*,human-corpus}.json.

알려진 한계 (결론에 반드시 부기)

  1. 인간 코퍼스가 편집된 전문 산문이다. 인용·괄호·장문이 많은 것은 AI/인간 차이가 아니라 전문성·편집의 산물일 수 있다. 개인·블로그 15편 서브셋에서는 격차가 크게 줄었다(장문 113.5→27.7/1000문장). "인간 일반"이 아니라 "출판된 좋은 글"과의 대조로 읽어야 한다.
  2. AI/인간 코퍼스의 주제가 짝지어지지 않았다. 내용어(명사) 차이는 주제 부산물이므로 결론에서 제외했다. 구조·기능 층위(종결어미·문장부호·문장길이·대구)만 결론에 쓴다.
  3. 표본이 각 60편이다. 저빈도 패턴의 결론은 고빈도 재확인 전까지 잠정.
  4. 자생 한국어 산문 비교다. "영어 원문을 번역·요약하는 맥락"은 이 설계로 검정되지 않았다. 번역 맥락 규칙(A-16 등)은 이 측정의 사정거리 밖.

결과

확증 (인간 대비 유의하게 AI 과다 — 구조·기능 층위)

패턴 AI/1k 인간/1k 배수 G² 비고
C-8/C-14 부정 대구 A가 아니라 B 5.8 0.6 9.2× 41.7 **** 개인 블로그 대비로는 18배. 세 모델 공통 = 모델 계열 무관
쉼표 과다 49.1 33.4 1.5× 25.5 **** KatFish(ACL 2025) 인간26%/LLM61% 방향 재현
쉼표 포함 문장 비율 394.8 285.5 1.4× 13.3 *** E-5·C-11·C-12와 연결
~한다 종결 편중 95.0 52.2 1.8× 9.5 ** E-2 종결어미 단조와 연결

신규 후보 (taxonomy 10대 카테고리에 없음 — AI가 "못 쓰는 것")

AI가 과다한 것만큼 AI가 결핍한 것도 강한 신호다. 처방 가능한 것만 규칙화하고, 나머지는 관측만 한다(없는 것을 만들어내는 처방은 의미 드리프트를 유발하므로 금지).

신규 후보 AI/1k 인간/1k G² 처방 가능?
장문 결핍(100자+ 문장) 8.1 91.3 60.9 **** ✅ 인접 문장 잇기(내용 추가 금지). E-1의 실체 = "균일"이 아니라 "장문 부재"
인용 결핍(직접 인용부호) 0.0 8.7 96.4 **** ❌ 관측만 — 없는 인용을 지어내면 안 됨
괄호 결핍 1.2 10.6 69.5 **** ❌ 관측만
과거형 회피(했다·었다) 29.9 135.6 54.7 **** △ 장르 교란 가능(논설 vs 서사). 잠정

→ 신규 후보의 크기는 한계 ①(전문성 효과) 때문에 과장 위험이 있다. 개인 블로그 서브셋 기준으로는 장문 4배·인용은 여전히 0.0. 방향은 확실, 배수는 보수적으로 읽을 것.

기각 (반대 변호 + 재측정을 거쳐 확정)

각 기각은 GPT-5.6-sol(ultra)에게 "여전히 AI 티인 이유를 최대한 강하게 변호하라"고 시킨 뒤, 그 변호가 데이터를 이기지 못한 것만 기록한다.

패턴 근거 반대 변호 결과
A-2 ~를 통해 무조건 분산 최희경(2016): 비번역 84.4 vs 번역 42.1 — 원어민이 2배 더 씀. 우리 AI 코퍼스에도 거의 미출현 변호인 자기 평가 "이 방어는 '거의 미출현'을 이기지 못한다" → 기각. 남발(문서 내 반복) 억제는 유지하되 1~2회는 보존
I-1 것이다 결말 무조건 평서화 ~것이다 정밀 측정 AI 20.4 vs 인간 43.0(G²=6.2, 인간이 2배). 변호가 제기한 '위치·반복' 가설도 단락 말 0.3배·연속 반복 AI 0.0 기각. 연속 3회+ 남발일 때만 일부 평서화

⚠️ 측정 오류 정정: 최초 I-1 측정에서 종결어미 마지막 2자(이다)를 세어 모든 ~이다 종결이 섞였다(당시 AI 137.0 vs 인간 142.1, G²=0.1로 보고). ~것이다만 정밀 측정하면 AI 20.4 vs 인간 43.0. 결론(기각) 방향은 같으나 근거 수치를 정정한다.

재판단 후 기각하지 않은 것 (신중 판정)

패턴 왜 기각 안 했나
A-16 영어 대명사 직역 규칙 자체가 영어 원문 번역 맥락 한정(예시 전부 영→한). 우리 코퍼스는 자생 산문이라 이 규칙의 발생 조건을 주지 않았다 = 검정 대상이 아님. 자생 한국어에서 그는/그의를 인간이 더 쓴다는 사실(AI 0.0 vs 인간 1.9)은 "자생 산문에서는 발동 금지"를 뒷받침할 뿐 규칙을 기각하지 못한다. 200자 창 군집 측정에서도 인간 3.9% vs AI 0.7%로 규칙이 정의한 사건(단락 3회+)조차 인간이 더 일으킨다 — 자생 맥락 한정
C-1 열거 표지 우리 논설·에세이 표본에서 인간 0회로 나왔으나, 논설·에세이는 원래 열거를 잘 안 쓰는 장르다. 학술·매뉴얼·설명문은 다르다. taxonomy가 이미 "기본 보존"(v2.0.1 S1→S2 강등)으로 신중하게 둔 것을 우리 장르 편향 표본으로 뒤집지 않는다. "논설·에세이 장르에서는 AI 신호"로만 한정 기록

모델 의존성 점검 (2026-08-29, n=60 x 60)

기준선을 24쌍에서 **사람 60편(11,620어절) vs AI 60편(20프롬프트 x 3모델)**으로 넓히고 모델별로 분해했다. 종전 기준선의 caveat("생성 모델이 단일이라 모델별 편차 미반영")을 해소하기 위한 측정이다. 판정 기준은 하나다 — 모든 모델에서 사람보다 높아야 모델 계열과 무관한 "AI다움"이라 부를 수 있다.

전 모델 초과 (규칙 근거로 사용 가능)

패턴 사람/1k fable-5 gpt-5.6-sol haiku-4.5 총 배수
C-8 대구 0.52 7.05 6.63 4.84 12.1×
I-4 당위 1.64 2.61 12.01 5.65 3.7×
F-5 추상 체인 3.87 6.26 4.97 6.85 1.6×

C-8은 24쌍 측정(9.2배)과 n=60(12.1배)에서 모두 최강 신호로 재현됐다.

한 모델이 총계를 끌어올린 항목 (근거 재조정)

패턴 사람/1k fable-5 gpt-5.6-sol haiku-4.5 판정
H-1 문두 접속사 0.43 0.26 0.83 6.85 haiku 단독(17건 중 13편). fable·gpt는 사람과 구별 불가
H-3 메타 진입 0.86 0.00 0.00 2.02 haiku 단독. 사람 60편 중 8편에서 10건 — 정상 담화 장치이기도 하다
G-3 안전 균형 0.09 0.26 0.00 1.21 사람 1건·AI 4건. 표본이 없어 판정 불가(hold)

조치: H-1·H-3의 처방을 "문서 일괄 제거"에서 **"한 문단 3회+ 밀집 시 일부만"**으로 보수화하고, H-1을 fast 경로의 "잔존 S1 0건" 목록에서 뺐다. G-3는 규칙을 남기되 실증 부족을 명시했다.

과업 편향 대조군 (2026-08-29) — J-2는 뒤집혔다

J-2(따옴표)가 사람 11.36 vs AI 0.00으로 나온 것이 문체 차이인지 과업 차이인지 가르기 위해, 같은 20개 프롬프트·같은 모델에 과업 조건만 사람 코퍼스에 맞춘 대조군을 만들었다 (직접 인용 2회+·수치/기관명 3회+·800~1000자, haiku-4.5·fable-5 각 20편 중 39편 채택). 사람 원문은 생성 세션에 보여주지 않았다.

패턴 사람/1k AI 기존 AI 과업매칭 판정
J-2 따옴표 11.36 0.00 26.89 과업 편향. 맞추면 AI가 2.4배 더 쓴다
H-1 문두접속사 0.43 2.29 0.13 과업 편향. 맞추면 AI가 더 적게 쓴다
D-4 hype 0.26 0.34 0.00 취재 과업에서는 AI가 쓰지 않는다
C-8 대구 0.52 6.30 6.13 과업 무관 — 12배 유지
I-4 당위 1.64 6.07 3.39 초과 유지(3.7배 → 2.1배)
F-5 추상체인 3.87 6.07 5.48 방향 유지(1.6배 → 1.4배)

읽는 법이 중요하다. "AI는 따옴표를 안 쓴다"는 관찰은 전적으로 과업 산물이었다. 인용을 요구하면 AI는 사람보다 오히려 과하게 쓴다 — J-2 규칙의 방향("5회+면 줄여라")은 그 조건에서 옳다. 반대로 H-1은 모델 의존(haiku 단독)에 과업 의존까지 겹쳐, "문두 접속사 남발"을 AI의 표지로 삼기 어렵다는 쪽으로 근거가 더 기운다.

C-8은 세 측정(24쌍 9.2배 · n=60 12.1배 · 과업매칭 11.8배)에서 모두 최강으로 재현됐다. 과업을 바꿔도 흔들리지 않는 유일한 항목이다.

이 측정의 한계

AI 60편은 사람 60편과 주제가 1:1로 매칭되지 않는다(장르 수준에서만 대응). 24쌍 기준선이 주제·분량까지 맞춘 더 엄격한 설계이므로 두 기준선은 대체가 아니라 상호 보완이며, 결론이 갈리면 24쌍을 우선한다. 모델별 표본은 각 20편(약 2,900어절)으로, 밀도 차이가 큰 항목(C-8·I-4)에는 충분하지만 희소 패턴(G-3·D-4)에는 부족하다.

6렌즈 팀 채굴 라운드 (2026-08-29)

7인 병렬 리서치: 어휘·calque·담화 렌즈(각 1) + 외부 모델 독립 채굴(교차 검증) + 학술 문헌 + 소형모델 조사 2. 채택 기준은 오케스트레이터의 독립 재계수로 전 모델·과업 조건 통과. 결과는 v2.6 신설 8건(A-20·A-21·D-10~13·F-7·I-7)·확장 4건·진단 관측 지표 절·오탐 방지 원칙 절로 반영.

핵심 발견 3가지:

  1. 현세대 어휘 티는 어려운 한자어가 아니라 평이한 범용어 수렴이다. 제고·도모·박차는 사람과 격차 0, 확대·강화·개선 수렴은 3.4배.
  2. 영어 티 목록은 한국어로 이식되지 않는다. blader/humanizer(38k★) 35패턴의 한국어 직역 후보를 코퍼스로 검증한 결과 §27 심층진실(격차 없음)·§12 가짜범위(사람이 2.6배 더 씀)·§34 가짜반론(무출현) — 유일한 생존자는 §6 과제 절(D-12, 한국어 자체 실측으로 채택). §33 fake-candid는 한국어에서 정반대(솔직히=사람 표지).
  3. 담화 결핍 계열은 처방 불가 — 가치는 탐지·오탐 방지(역방향 지표). 3소스 수렴한 허공 인용(DS-2)이 대표.

문헌 후속 과제와 그 진행:

  • Juzek 2026 한국어 어휘 목록 — 다운그레이드 (2026-08-29 확인): 본 논문 PDF의 부록에는 영어·스페인어·프랑스어 선별 목록만 실려 있고 한국어 목록은 없다(보충자료 별도 추정). 더 중요하게, 본문 통시 분석에서 한국어는 −22.2%로 감소 3위 — 저자들 스스로 코퍼스 구성 효과로 유보한 잡음 구간이다. "한국어판 delve 목록을 여기서 추출한다"는 계획은 폐기하고, 어휘 확장은 자체 코퍼스 채굴(F-7 등)로 계속한다. 방법론(split-halves)만 가져온다.
  • split-halves continuation: 다음 측정 라운드의 표준 프로토콜 후보 — 같은 글의 앞 절반을 주고 이어 쓰게 해 필자·주제·문맥·문단 위치까지 통제한다. 현행 "동일 주제 짝대조"의 필자·매체 변이 미통제를 해소.
  • MKUFS2 빈도 기반 임계 재보정 / 재생성 거리(Jeon 2026, EACL) Tier-2 게이트 — 미착수.

백포트 지침

  • A-2·I-1: taxonomy 처방을 "무조건" → "남발일 때만"으로 조건화. 근거 앵커를 이 문서로.
  • A-16: 처방에 "자생 한국어 산문(영어 원문 없는 글)에서는 발동하지 않는다" 명시.
  • C-8/C-14: S1 유지·강화. 실측 최강 신호(9~18배)임을 근거에 부기.
  • 신규 후보(장문·쉼표): E-1·E-5를 "문장길이 균일" → "장문 부재 + 쉼표 과다"로 실체화. 인용·괄호 결핍은 진단 관측 지표로만.
  • H-1·H-3: 처방을 "문서 일괄"에서 "한 문단 3회+ 밀집 시 일부만"으로 보수화. 근거 앵커는 위 모델 의존성 점검.
  • G-3: 규칙 유지하되 "실증 부족 — hold" 표기. 과업 대조군에서도 희소해 판정 불가.
  • J-2: 근거를 과업 대조군 수치로 교체. 기존 AI 코퍼스의 0.00은 인용을 요구하지 않은 과업의 결과이지 문체가 아니다.
  • D-4: 근거 약함 표기(사람 0.26 · AI 0.34 · 과업매칭 0.00). 이 항목으로 윤문 판단을 정당화하지 않는다.
  • 재현 스크립트·코퍼스는 imnotai-web에 있음. 코퍼스 자체는 저작권상 본진에 커밋하지 않고, 측정 방법과 결과만 이 문서로 이관.