"챗GPT한테 시키면 코드가 뚝딱 나온다"는 말은 절반만 맞습니다. 짧은 함수 하나, 간단한 페이지 하나는 정말 몇 초 만에 나옵니다. 하지만 그 코드를 실제로 돌려보고, 수정하고, 다른 사람과 함께 쓰는 단계로 가면 이야기가 달라집니다. 이 글은 AI 코딩을 추켜세우거나 깎아내리지 않고, 비개발자가 직접 겪게 되는 한계와 그 한계를 다루는 방법을 솔직하게 정리합니다.
이 글의 흐름
- AI가 잘하는 일과 못하는 일
- 가장 흔한 함정: 환각과 그럴듯한 거짓말
- 맥락의 한계 — 큰 프로젝트에서 길을 잃는다
- 보안과 비용, 눈에 안 보이는 위험
- 그래서 어떻게 써야 하나
- 마치며
AI가 잘하는 일과 못하는 일
현재의 AI 코딩 도구는 "이미 세상에 많이 존재하는 패턴"을 재조합하는 데 매우 강합니다. 로그인 폼, 간단한 계산기, 데이터 표 정렬 같은 것은 수많은 예제를 학습했기 때문에 거의 정확하게 만들어 냅니다. 반대로 약한 영역은 분명합니다.
- 잘하는 것 — 흔한 코드 패턴, 문법 교정, 짧은 코드 설명, 에러 메시지 해석, 반복 작업 자동화
- 애매한 것 — 여러 파일이 얽힌 기능, 특정 라이브러리의 최신 버전 사용법, 한국어 도메인 지식
- 못하는 것 — 당신의 의도를 끝까지 정확히 추측하기, 실제로 실행해 보지 않고 결과 보장하기, 책임지기
AI는 "평균적으로 그럴듯한 답"을 만드는 도구이지, "검증된 정답"을 주는 도구가 아닙니다. 이 한 줄을 기억하면 대부분의 실망을 피할 수 있습니다.
가장 흔한 함정: 환각과 그럴듯한 거짓말
비개발자가 가장 많이 당하는 것이 바로 환각(hallucination)입니다. 존재하지 않는 함수 이름, 실제로는 없는 설정 옵션, 가짜 라이브러리를 너무나 자신 있게 제시합니다. 코드를 읽을 줄 모르면 이게 진짜인지 가짜인지 구분하기 어렵습니다.
AI가
image.autoFix() 같은 멋진 이름의 함수를 추천하는데, 막상 실행하면 "그런 함수 없음" 오류가 납니다. 다시 물으면 사과하고 또 다른 가짜를 제시하기도 합니다.대처는 의외로 단순합니다. 작게 자르고, 바로 돌려 보는 것입니다. 100줄을 한 번에 받지 말고 10~20줄씩 받아서 그때그때 실행해 보면, 가짜는 즉시 오류로 드러납니다. 길게 받을수록 검증이 어려워지고 환각이 묻혀 들어갑니다.
맥락의 한계 — 큰 프로젝트에서 길을 잃는다
AI는 대화창에 보이는 정보로만 판단합니다. 당신의 프로젝트 전체 구조, 어제 만든 다른 파일, 데이터베이스에 이미 들어 있는 값은 알려 주지 않으면 모릅니다. 그래서 프로젝트가 커질수록 "앞에서 만든 것과 충돌하는 코드"를 태연하게 내놓습니다.
- 파일이 10개가 넘어가면 AI는 전체를 동시에 기억하지 못합니다.
- 같은 기능을 두 번 묻으면 서로 다른 방식의 코드를 줄 수 있습니다.
- "아까 그거랑 똑같이"라고 해도, 그 "아까"가 대화창에서 밀려나면 잊습니다.
중요한 결정(파일 이름 규칙, 색상, 데이터 구조)은 별도 메모에 적어 두고, 새 요청을 할 때마다 그 메모를 함께 붙여 넣으세요. AI에게 "기억"을 기대하지 말고 "매번 다시 알려 주는" 습관을 들이는 편이 안전합니다.
보안과 비용, 눈에 안 보이는 위험
겉으로 잘 돌아가는 코드가 안전한 코드는 아닙니다. AI는 "동작하는 코드"를 우선하기 때문에, 보안과 비용 측면에서 위험한 기본값을 그대로 넣는 경우가 많습니다.
| 위험 | 흔한 증상 | 대처 |
|---|---|---|
| 비밀번호·키 노출 | 코드 안에 비밀번호를 그대로 적어 둠 | 키는 설정 파일/환경 변수로 분리 |
| 입력값 미검증 | 사용자가 넣은 값을 그대로 신뢰 | "이 입력 검증했어?"라고 되묻기 |
| 무한 호출 | 반복 작업이 멈추지 않아 요금 폭증 | 실행 전 횟수·한도 확인 |
# 나쁜 예 (키가 코드에 그대로)
api_key = "sk-진짜키1234"
# 나은 예 (밖에서 불러오기)
api_key = os.environ["API_KEY"]비개발자라면 위 차이를 코드로 다 이해할 필요는 없습니다. 다만 AI가 준 코드에 비밀번호나 키처럼 보이는 글자가 그대로 박혀 있으면 "이거 밖으로 빼는 게 안전하지 않아?"라고 한 번 되물어 보는 습관만으로도 큰 사고를 막습니다.
그래서 어떻게 써야 하나
한계를 안다고 AI를 멀리할 이유는 없습니다. 오히려 한계를 알면 더 잘 쓰게 됩니다. 핵심은 AI를 똑똑한 신입 조수로 보는 것입니다. 빠르고 부지런하지만, 검토 없이 결과물을 그대로 내보내면 안 되는 조수입니다.
- 작게 요청하기 — 큰 기능을 한 번에 말고 단계로 쪼개서
- 바로 실행해 확인하기 — 받은 즉시 돌려 보고, 안 되면 오류 메시지를 그대로 붙여 다시 묻기
- 왜 그런지 물어보기 — "이 줄은 무슨 역할이야?"라고 물으면 학습도 되고 가짜도 걸러집니다
- 중요한 건 사람이 결정하기 — 보안, 비용, 데이터 삭제처럼 되돌리기 어려운 일은 반드시 직접 점검
마치며
챗GPT를 비롯한 AI 코딩 도구는 비개발자에게 분명 큰 문을 열어 주었습니다. 다만 그 문 안에는 환각, 맥락 한계, 보안 빈틈이라는 함정이 함께 있습니다. 도구를 맹신하지도, 겁먹어 외면하지도 말고, 작게 자르고 바로 확인하는 습관으로 다루면 됩니다. 한계를 정확히 아는 사람이 결국 그 도구를 가장 잘 쓰는 사람이 됩니다.
읽었으면, 직접 풀어보는 게 가장 빠릅니다.
무료 ‘수련’에서는 레벨별 챕터의 핵심을 익히고 퀴즈를 풀며 경험치(XP)를 쌓아 한 단계씩 레벨을 올립니다. 로그인하면 내 진행 상황이 저장됩니다.