Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI를 활용한 아이디어 구상이나 코드 초안 작성은 유용하지만, AI가 실제 운영 환경(本番環境)에서 직접 조작하거나 변경하는 단계까지 맡기는 것은 신중해야 합니다. 생성물은 '재료'로 간주하고, 최종적인 판단과 실행 결정은 인간의 책임 영역으로 남겨두어야 함을 강조합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기AI에게 아이디어를 내게 하거나 코드를 작성하게 하는 것에 대해서는 상당히 익숙해졌습니다. 한편, AI가 제안을 내놓는 것을 넘어 실제로 무언가를 변경하거나 실행하는 단계까지 맡기는 것에는 아직 저항감이 있습니다.
AI를 'Copilot', 즉 부조종사로 사용하는 것은 매우 편리합니다. 벽치(brainstorming)를 하거나 글이나 코드의 초안을 만들게 하는 것은 정말 유용합니다. 생각을 넓혀주는 상대자로서, AI는 믿음직한 존재가 되었습니다.
그럼에도 불구하고, 생성물을 사람이 확인하는 것과, AI에게 운영 환경(本番環境)에서 조작하게 하는 것은 같은 'AI 사용'이라도 다른 문제입니다. 조종간을 잡고 나아갈 방향을 결정하는 것은 인간이여야 합니다. 그 경계에 대해 생각해 봅니다.
예를 들어, 슬라이드를 만들기 위해 구성안을 짜게 하거나, 새로운 기능의 아이디어를 함께 구상하게 하거나, 코드 작성을 시작하는 것을 도와주는 경우입니다.
이러한 상황에서 AI의 출력물은 완성품이라기보다는 생각을 시작하기 위한 재료에 가깝습니다. 아무것도 없는 상태에서 생각하는 것보다 눈앞에 초안이 있는 편이 '여기는 다르다', '이 순서가 더 전달력이 좋다'고 판단하기 쉽습니다.
실제로 나온 구성안을 보고 있으면, 조금 다른 맛을 더하고 싶어질 때가 있습니다. 자신이 정말 전하고 싶은 내용에 맞춰 순서를 바꾸거나, 불필요한 항목을 덜어내기도 합니다. AI의 제안을 계기로 자신의 생각이 명확해지는 경우도 있습니다.
중요한 것은 출력을 맹신하지 않는 것입니다. AI가 만든 것을 그대로 채택하는 것이 아니라, 초안으로 받아들여 목적에 맞게 사람이 손을 대는 과정. 그 과정이야말로 창작자의 판단이 드러난다고 생각합니다.
코드 생성의 경우라면, 제안된 코드를 읽고, 구동해보고, 테스트하고, 리뷰한 후에 적용하는 단계가 있습니다. 마음에 들지 않으면 다시 작성할 수 있고, 채택하지 않는 선택도 할 수 있습니다. 생성된 것이 그대로 사용자에게 전달된다는 보장이 없습니다.
반면, 운영 환경에 대한 변경은 단순히 아이디어를 짜는 것을 넘어, 실제 시스템이나 사용자에게 영향을 미치는 조작입니다. 실행한 후 원상태로 되돌릴 수 있다고 해도, 변경이 적용되는 사이에 누군가가 영향을 받을 수 있습니다. 취소할 수 있다는 것과, 영향이 없다는 것은 같지 않습니다.
예를 들어, 슬라이드 구성안을 짜게 하는 것과, 그 내용을 확인하지 않고 공개하는 것. 코드를 작성하게 하는 것과, 그 코드를 운영 환경에 반영하는 것. 둘 다 후자의 경우, 생성물의 좋고 나쁨뿐만 아니라 실행으로 인해 발생하는 영향을 고려해야 합니다.
| 단계 | AI에게 맡기고 싶은 것 | 인간이 확인하고 싶은 것 |
|---|---|---|
| 💡 아이디어 | 선택지나 구성안을 내는 것 | 목적에 맞는 방향을 고르는 것 |
| ... |
이는 AI에게 능력이 없다고 말하려는 것이 아닙니다. 오히려, 할 수 있는 일이 늘어날수록 '생성해도 되는 범위'와 '실행해도 되는 범위'를 나누어 생각할 필요성을 느낍니다.
'인간이 확인한다'는 것은 쉽지만, 단순히 형식적으로 승인 버튼을 누르는 것만으로는 의미가 없습니다. 어디를 바꿀지, 왜 바꾸는지, 실패하면 어떻게 할지를 이해하고 실행해도 좋다고 판단하는 것이 필요합니다.
그러기 위해서는 무엇을 하려 하는지, 영향 범위는 어디인지, 필요하다면 어떻게 멈추거나 되돌릴 수 있는지 아는 상태여야 합니다. 인간이 관여한다면, 판단에 필요한 정보와 그 판단을 실행에 반영할 수 있는 시스템도 필요합니다.
물론 모든 조작을 사람이 수동으로 해야 한다고 말하려는 것은 아닙니다. 안전한 범위에서 자동화하는 것에는 가치가 있습니다. 다만, 운영 환경을 변경하는 마지막 결정까지 확인 없이 AI에게 넘기는 것에는 신중하고 싶습니다.
AI의 제안을 모두 의심해서 아무것도 맡기지 않는 것도 아니고, 출력을 그대로 믿고 맡겨버리는 것도 아닙니다. 제안을 받아들이고, 확인하며, 자신의 의도에 맞는 형태로 다듬은 후에 사용하는 것. 그 균형을 잡고 싶습니다.
AI는 생각하는 상대가 될 수도 있고, 창작물을 만드는 도구가 될 수도 있습니다. 벽치나 초안 짜기, 코드의 초안 작성을 부탁하면서, 나온 것을 제 눈으로 보고 더 좋은 형태로 다듬어 가는 것. 저는 그런 사용법을 좋아합니다.
한편, 운영 환경에 대한 변경처럼 사람에게 영향을 미치는 조작에서는 마지막 판단은 인간이 맡고 싶습니다. AI가 코드를 작성할 수 있는 것과, 운영 환경에 반영해도 좋다는 것은 다르기 때문입니다.
부조종사에게 맡길 일은 앞으로 더 늘어날 것입니다. 그럼에도 불구하고, 어디로 향할지 결정하고 운영 단계로 나아가는 마지막 조작을 판단하는 것은 인간으로 남고 싶습니다. AI와 함께 무언가를 만들 때, 저는 그 경계를 잊지 않고 싶습니다.