[업계]AI로 글 고칠 때 '손실 없는 변환'은 없다

무슨 일이야

개발자 소피 알퍼트(Sophie Alpert)가 엔지니어를 위한 'AI 글쓰기 허용 정책'을 공유했다. 핵심은 LLM의 도움을 받아 문서를 작성하더라도, 문서에 담긴 모든 아이디어와 문장은 작성자 본인의 생각을 완벽히 대변해야 한다는 점이다.

만약 리뷰어가 "이 문장은 무슨 뜻이냐"고 물었을 때 "AI가 쓴 거니 무시하라"고 답하는 것은 허용되지 않는다. 작성자의 실제 생각과 다른 내용을 문서에 남기는 것은 독자를 혼란스럽게 만들고 시간을 낭비하게 만든다.

이에 대해 사이먼 위리슨(Simon Willison)은 "자연어 텍스트에는 손실 없는 변환(lossless transformation)이 없다"고 덧붙였다. 문장을 다시 쓰거나 다듬는 모든 과정에서 의미 변화가 일어나며, 작성자의 의도를 완벽히 이해하지 못하는 AI가 이를 처리할 경우 정보는 손실될 수밖에 없다.

왜 중요해

개발 문서나 기술 리포트를 쓸 때 LLM으로 문장을 매끄럽게 다듬는 일이 흔해졌다. 하지만 AI가 문장을 재작성하면서 작성자가 의도한 미묘한 맥락이나 정확한 뉘앙스를 왜곡할 위험이 늘 존재한다.

결국 AI 글쓰기 도구를 활용하더라도 최종 검수와 책임은 인간 엔지니어에게 있다는 점을 명확히 해야 한다. 자신이 전달하려는 바를 AI가 제대로 반영했는지 한 문장씩 확인하지 않는다면 기술 문서의 정확도와 신뢰성은 떨어질 수밖에 없다.

짚고 넘어갈 점

AI 사용 자체를 금지하자는 것이 아니라 작성자의 책임감을 강조하는 원칙이다. 다만 AI가 바꾼 문장을 일일이 검수하고 수정하는 과정에서 작성자의 수공업적 노력이 다시 들어가는 만큼, AI 글쓰기 도구가 기대만큼 시간을 획기적으로 줄여주지 못할 수 있다.

참고: Simon Willison