최근 IT 관련 분야에서 빼놓을수 없는 AI 기사를 읽다가 아주 재미난 글을 발견하여 내용을 정리해봅니다. 본문 내용은 IT world 기사를 인용한 내용이니 참고하시기 바랍니다.
여러분의 기업에서 추진 중인 인공지능 기반 프로젝트는 성공하기 어려울 확률이 매우 높다. 결국 비즈니스 문제 해결에는 AI를 활용하지 않는 것이 좋다. 이미 데이터 과학자들 사이에서는 널리 알려진 사실이지만, 이를 기업 경영진이 받아들이는 속도는 아직 느린 편이다. 데이터 과학자인 노아 로랑은 “머신러닝으로 해결 가능한 비즈니스 문제는 매우 한정적이며, 대부분은 질 좋은 데이터와 그 안에 담긴 의미를 파악하는 것만으로도 충분하다”고 말한 바 있습니다.
베인앤컴퍼니의 설문 결과에 따르면, 응답 기업의 87%가 현재 생성형 인공지능 어플리케이션을 개발 중인 것으로 나타났다. 어떤 기업들에게는 적절한 방법이 될 수 있지만, 대다수의 기업들에게는 해당되지 않는다.
비아덕트의 인공지능 엔지니어 슈레야 샨카는 생성형 AI의 강점이자 약점이 기존에는 어려웠던 데이터 전처리 과정 없이도 작동 가능하다는 점이라고 언급하였다. 샨카는 데이터 준비에 많은 시간을 투자하지 않았기 때문에 초기 결과를 보면 매우 놀랄 것이라 말했습니다. 이렇게 되면 다음 과정인 프롬프트 엔지니어링을 진행할 수 있게 된다”고 언급했습니다.
기업은 데이터 준비 단계부터 모델 훈련 과정까지 복잡하고 반복적인 작업들을 건너뛰고 곧바로 결과를 얻고 싶어한다. 최종 결과적으로는 실현하기 어려운 과도한 기대감으로 연결된다. 샨카는 “생성형 AI와 LLM은 출시하기 전에 어떠한 유형의 조직적인 평가도 거치지 않기 때문에(훈련 데이터 세트를 수집하지 않는다면 무엇 때문에 그렇게 하겠는가?). 전적으로 분위기에 따라서만 기대치를 정한다는 점에서 더욱 흥미롭다고 언급했다.
하지만 좋은 인공지능 앱을 만들기 위해 필요한 데이터셋과 그저 그런 분위기 조성용 데이터셋은 차이가 있습니다. 머신러닝의 핵심은 생성형 AI에서 놓치기 쉬운 부분인 모델을 끊임없이 최적화하는 것이다. 샨카는 머신러닝과 인공지능 기술을 적용한 서비스를 만드는 과정에서 기업들이 흔히 범하는 실수 중 하나가 처음부터 지나치게 높은 정확도를 요구하거나 이에 대한 과도한 기대를 갖는 것이라고 지적하면서, 이를 방지하기 위해서는 데이터 검증 및 추가 테스트. 다시 말해, 프롬프트 이전과 이후에 실행되는 모든 과정이 결과에 큰 영향을 미친다. 생성형 AI 앱의 경우, 초기 단계부터 빠르게 발전하기 때문에 기존의 규제 방식으로는 이를 따라가기가 어렵다.
더 나아가, 생성형 AI는 프롬프트와 출력 결과 사이에 일관성이 부족하기 때문에 상황이 더욱 어려워진다. 많은 사람들이 LLM과의 상호작용을 어른과 성숙한 대화를 나누는 것이라 여기지만, 인사이트(Insight)의 제품 혁신 부문 CTO인 아몰 아지가온카는 이를 “10대 자녀에게 지시하는 것” 이라고 비유한다.
때론 여러 번 반복해서 이야기해야 상대방이 이해할 수 있다. AI는 서로 언어가 다른 사람들처럼 어떤 경우에는 음성 명령을 인식하지 못하거나 작동하지 않을 수도 있다고 설명했다.
생성 AI 시스템과 소통하는 법을 익히는 일은 예술이면서 동시에 과학이고, 능숙하게 해내려면 꽤 많은 경험이 뒷받침되어야 한다. 유감스럽게도, 챗GPT를 활용한 간단한 실험에서 과도한 자신감을 얻어 도구가 제공할 수 있는 성능 이상의 기대를 가지게 된다면 이는 결국 실망스러운 결과로 이어질 가능성이 높습니다.
소프트웨어 개발 과정에서 가장 힘든 부분은 실제로 코드를 작성하는 것이 아니라, 어떤 로직과 알고리즘을 적용해서 원하는 기능을 구현할지 설계하는 것이다. 이와 비슷하게 AI 분야에서 가장 난도가 높은 업무는 AI 기술을 어떤 분야에 활용할지 파악하는 것이다. 단순한 규칙이 복잡한 규칙에 밀려날 때, 발다라마는 간단한 모델로 변경할 것을 제시한다. ‘간단함’을 계속해서 중요시 여기고 있다는 사실에 집중하세요. 발다라마는 “간단할수록 좋다”라고 하며, 필수적이지 않다면 간단한 모델을 기반으로 의사결정을 내리는 것이 바람직하다고 강조하였다.
이제 다시 생성형 인공지능으로 돌아가 보겠습니다. 생성 AI는 기업에게 상황에 따라 적절한 고객 가치를 제공하기 위한 수단으로 활용될 수 있습니다.
그럴 수도 있다. 그러나 체계적인 분석과 규칙에 근거한 접근법이 보다 확실하게 원하는 결과를 도출할 확률이 크다. 새로운 반짝이는 장난감을 가지고 놀려고 마음 먹었다면, 간단하고 작은 것부터 시작해서 성공하는 법을 익히는 것이 가장 좋다.