AI로 기획자에서 개발자가 된 송샘블로그 홈 →
AI 사용 설명서5분 읽기Read in English

AI가 내 지시를 무시한다고 느낄 때: 2년 동안 AI와 싸우며 알게 된 세 가지

"이 부분만 고쳐 달라"고 했는데 AI가 코드를 통째로 바꿔 놓았다면, 원인은 AI의 한계일 수도 있고 요청 범위가 서로 달랐기 때문일 수도 있습니다. 2년 넘게 AI로 프로그램을 만들며 싸웠던 경험에서, 수정 범위를 정하는 요청법과 좋은 결과물을 얻는 세 가지, 뜻대로 안 됐을 때 먼저 볼 것을 정리했습니다.

AI가 내 지시를 무시한다고 느낄 때는 원인부터 나눠 보는 것이 좋습니다. 그때의 AI로는 안정적으로 해내기 어려운 일이었을 수도 있고, 내가 생각한 범위와 AI가 이해한 범위가 달랐을 수도 있습니다. 저는 2년 넘게 AI로 프로그램을 만들면서 AI와 정말 많이 싸웠습니다. 지나고 보니 모든 문제가 제 탓은 아니었지만, 요청을 더 구체적으로 바꿀 수 있는 부분도 분명히 있었습니다. 그 경험에서 얻은 결론은 세 가지입니다. 내 지시에 대한 AI의 반응을 이해할 것, 만들려는 분야를 깊이 알 것, 그리고 이 둘을 함께 쓸 것입니다.

"이 부분만 고쳐 달라"고 했는데 왜 전부 바뀌었을까?

가장 자주 화를 낸 것은 코드를 고칠 때였습니다. 기존 기능은 그대로 두고 이 부분만 수정해 달라고 했는데, AI가 코드를 거의 통째로 바꿔 놓은 경우가 많았습니다. 고치려던 부분은 달라졌지만 잘되던 기능까지 없어지거나 바뀌어 있었고, 다시 확인하고 복구하다 보면 처음보다 일이 커졌습니다.

당시에는 긴 코드를 대화창에 붙여 넣고, AI가 다시 써 준 파일 전체를 받아 옮기는 일이 많았습니다. 어느 부분이 바뀌었는지 일일이 확인하기 어려웠고, 놓친 문제는 나중에 드러났습니다.

이 부분만 고치고, 나머지는 그대로
이 부분만 고치고, 나머지는 그대로

원인은 AI였을까, 내 요청이었을까?

둘 다였습니다.

원인어떤 경우였나
AI의 한계당시 AI의 능력으로는 안정적으로 해내기 어려운 일이 있었다. 분명히 적은 지시를 AI가 지키지 못한 경우도 있었다
요청 범위의 차이내가 생각한 ’수정’의 범위와 AI가 실제로 바꾼 범위가 달랐다

모든 문제가 잘못 시켜서 생긴 것은 아닙니다. 그래도 두 번째 원인은 요청을 바꾸면 줄일 수 있습니다. "수정만 해 줘"에 다음 조건을 더하는 것입니다.

"이 기능 안에서만 고쳐 줘. 기존의 다른 기능과 화면은 유지해 줘. 먼저 바꿀 곳과 이유를 설명해 줘. 다른 파일도 고쳐야 한다면 그 이유부터 알려 줘."

그리고 수정이 끝나면 바뀐 부분뿐 아니라 그대로 있어야 할 기능도 확인합니다. 요청을 구체적으로 쓰는 것과 AI가 그 요청을 지켰는지 확인하는 것은 함께 필요합니다.

"AI는 이렇다"는 설명만으로는 왜 부족할까?

같은 AI라도 어떤 자료를 주고 어떻게 요청하느냐에 따라 결과가 달라집니다. 모델이나 도구, 대화의 길이에 따라서도 달라집니다. 그래서 일반적인 설명만으로는 부족하고, 내가 어떻게 요청했을 때 어디에서 어긋나는지, 무엇을 더 알려 주면 좋아지는지 직접 봐야 합니다.

이전 글 AI를 잘 쓰려면 배우지 말고 만드세요에서 쓴 것처럼, 만들어야 할 대상이 없었다면 이런 차이를 알기 어려웠을 것입니다. 실제로 프로그램을 만들고 고치면서 AI의 반응과 제 요청 방식을 함께 이해하게 됐습니다.

좋은 결과물을 얻으려면 무엇이 필요할까?

조건무엇을 하나
1. 내 지시에 대한 AI의 반응 이해AI가 요청을 어떻게 이해했는지 확인하고, 결과를 보며 다음 요청을 고친다
2. 만들려는 분야를 깊이 알기업무 순서, 예외 상황, 실제로 쓰는 사람의 불편을 알고 설명한다
3. 둘을 함께 쓰기분야를 아는 만큼 필요한 일을 정하고, AI의 능력과 한계를 살피며 만들고 확인한다

첫째, 반응을 이해하는 감각은 한두 번 써 보는 것으로 생기지 않았습니다. 만들고 검토하는 시간이 쌓여야 했습니다.

둘째, AI가 그럴듯하게 만들어 줘도 그것이 현장에서 쓸 만한지 판단하려면 분야에 대한 이해가 필요합니다.

셋째, AI 사용법만 알아도 부족하고, 업무 지식만 있다고 AI가 의도를 알아서 구현해 주는 것도 아닙니다.

AI를 아는 것과, 일을 아는 것이 만날 때
AI를 아는 것과, 일을 아는 것이 만날 때

예를 들어 회사의 주문 관리 프로그램이라면 ’주문을 저장한다’는 기능만으로 끝나지 않습니다. 주문이 바뀌면 출고는 어떻게 되는지, 취소하면 재고와 받을 돈은 어떻게 바뀌어야 하는지까지 정해야 합니다. AI는 코드를 도와줄 수 있지만, 우리 회사에서 무엇이 맞는 처리인지는 업무를 아는 사람이 정해 줘야 합니다.

뜻대로 안 됐을 때 무엇부터 볼까?

먼저 볼 것확인할 질문
능력과 도구지금의 AI와 연결된 도구로 가능한 일이었나?
전달한 의도목적, 수정 범위, 유지할 기능을 분명히 전했나?
판단할 기준결과가 맞는지 확인할 자료와 기준이 있나?

AI에게 "내 요청을 어떻게 이해했는지 설명해 줘. 아직 고치지는 마"라고 물어보는 것도 방법입니다. 서로 다른 방향을 보고 있었다면, 다시 작업하기 전에 알아챌 수 있습니다.

다시 시키기 전에, 원인부터 봅니다
다시 시키기 전에, 원인부터 봅니다

요청을 구체적으로 쓰는 방법은 AI에게 질문 잘하는 법에, AI가 그럴듯하게 틀리는 이유는 AI는 왜 그럴듯하게 틀릴까에 정리했습니다.

정리

  • AI가 지시를 무시한다고 느낄 때는 AI의 한계와 요청 범위의 차이를 나눠 봅니다.
  • "수정만 해 줘"에는 고칠 범위, 유지할 기능, 먼저 설명받을 내용을 함께 적습니다.
  • 수정 뒤에는 바뀐 부분뿐 아니라 그대로 있어야 할 기능도 확인합니다.
  • 좋은 결과물에는 AI의 반응 이해, 분야에 대한 깊은 이해, 그리고 둘의 결합이 필요합니다.

원팩에서 만드는 업무 시스템 FROX도 실제 업무를 이해하고, AI와 만들고, 결과를 확인하면서 하나씩 맞춰 가고 있습니다.

함께 읽으면 좋은 글: AI를 잘 쓰려면 배우지 말고 만드세요 · AI에게 질문 잘하는 법 · AI는 왜 그럴듯하게 틀릴까 · AI 성능은 1년 동안 얼마나 달라졌을까?

  • #AI활용
  • #AI지침
  • #프롬프트
  • #AI와일하는법
  • #AI코딩
  • #경험담
송샘 · 원팩 대표 송상화

프로그램 기획자로 일하다, 2년 동안 하루 5~12시간씩 AI와 일하며 개발자가 됐습니다. 지금은 원팩에서 AI가 결합된 업무 시스템 FROX를 만듭니다.

송샘 블로그에서 다른 글 보기 →