[업계]AI에만 맡기는 버그 수정이 만드는 '아무도 모르는 코드

무슨 일이야

플로리안 에랑(Florian Herrengt)은 개발팀이 해결되지 않는 버그를 AI에 계속 고쳐달라고 요청할 때 벌어지는 상황을 공유했다. Fable이나 클로드(Claude) 같은 AI 도구가 자신감 있게 기다란 설명과 코드를 내놓지만, 정작 개발자들은 그 내용이 맞는지조차 판단하지 못하는 현상이 발생한다는 지적이다.

이런 방식으로 개발이 계속되면 프로젝트에는 레이어와 서비스가 복잡하게 쌓이게 된다. 결국 팀 안에서 전체 시스템이 어떻게 돌아가는지 이해하는 사람이 단 한 명도 없는 상태에 빠지게 된다.

왜 중요해

AI 코딩 도구의 도움으로 코드를 빠르게 작성할 수 있게 됐지만, 코드베이스에 대한 개발자의 이해도가 떨어지는 부작용이 드러나고 있다. AI가 만든 코드를 검증 없이 쌓아 올리면 장기적인 프로젝트 유지보수가 불가능해질 수 있다.

짚고 넘어갈 점

이는 AI 모델의 단독 문제라기보다, AI가 제시한 해결책을 개발자가 직접 검증하지 않고 의존할 때 발생하는 작업 흐름상의 한계로 보인다.

참고: Simon Willison