AI 증강 개발의 성공과 실패를 가르는 8가지 변수 : zum 뉴스

AI가 소프트웨어 개발을 포함한 모든 비즈니스 영역으로 확산되고 있다. AI 증강 개발(AI-augmented development)은 생성형 AI를 사용해 설계, 테스트, 배포를 포함한 소프트웨어 개발 수명 주기의 다양한 단계를 지원한다. 개발 프로세스에 AI 기반 툴을 채택할 때 그 목적은 특정 작업을 자동화함으로써 개발자 생산성을 높이는 데 있다. 또한 AI 기반 툴은 코드 품질을 향상시키고 개발 수명 주기의 속도를 높여 개발팀이 사용자에게 더 신속하게 제품을 제공할 수 있게 해준다.

업계 연구에 따르면 AI 증강 개발은 확연한 증가세를 보이고 있다. 시장조사 및 자문 기업 QKS 그룹은 2025년 5월 보고서에서 전 세계 AI 증강 소프트웨어 개발 시장이 2030년까지 연평균 33% 성장할 것으로 전망했다.

보고서는 “속도, 혁신, 적응력이 경쟁 우위를 좌우하는 시대를 맞아 AI 증강 소프트웨어 개발이 기업의 혁신 동력으로 급성장하고 있다. 금융, 의료, 소매, 통신, 제조를 비롯한 다양한 업계의 기업은 코드 생성부터 테스트와 디버깅, 배포에 이르기까지 소프트웨어 개발 수명 주기의 모든 단계에 AI를 통합함으로써 소프트웨어가 구축, 최적화, 확장되는 방식을 재정립하고 있다”라고 전했다.

AI 증강 개발 툴과 프로세스를 구현하는 데는 위험과 보상이 동시에 따른다. 기술 리더와 소프트웨어 개발자는 반드시 두 가지를 모두 이해해야 한다.

AI 증강 개발에 따르는 위험

소프트웨어를 개발하면서 과도하게 AI에 의존하는 경우 모델 학습에 사용되는 데이터의 편향성, 사이버 보안 위협, AI가 생성한 코드의 오류 미확인과 같은 위험이 발생한다. 소프트웨어 개발 수명 주기에 AI를 통합하면서 겪은 가장 까다로운 과제는 무엇이고, 그러한 과제에 어떻게 대처했는지 다양한 전문가에게 물었다.

모델의 편향성

모델에 입력되는 데이터의 편향성은 AI의 오랜 골칫거리로, AI 증강 개발도 예외는 아니다.

브라운 공과대학의 혁신 관리 및 기업가 정신 석사 과정 책임자인 자네 듀안은 “AI는 인간이 코딩한 데이터로 학습되기 때문에 이미 존재하는 편향성을 복제하고 증폭시킬 수 있다. 설계와 테스트에서 신중한 감독과 다양한 관점의 반영이 이뤄지지 않을 경우 구축하는 시스템에 배타적 요소가 내장될 위험이 있다”라고 말했다.

직장 인증 제공업체 모스트 러브드 워크플레이스(Most Loved Workplace)는 머신러닝을 사용해 직원 감정을 분석하는데, 프로젝트 초기에 모델이 특정 감정적 상태 또는 문화적 언어의 차이를 잘못 해석하는 징후를 발견했다.

이 회사를 창업한 조직 심리학자 루이스 카터는 “자체적으로 연구한 모델에 따라 레이블을 지정하고 루프에 인간이 개입해 편향을 테스트하면서 모델을 재학습시켜야 했다”라고 말했다.

카터는 “이를 위해 내부 팀이 많은 일을 했다. 모든 직원이 레이블을 지정하고 편향에 대한 자신의 해석을 추가할 수 있는 게임 플랫폼을 만들었고, BERT 언어 모델을 개선해서 감정과 감성을 파악하기 위한 자체 구조를 개발했다. 편향성을 발견하지 못했다면 사용자의 잘못된 판단을 이끌고 제품의 신뢰성을 떨어트리는 결과가 나왔을 것”이라고 덧붙였다.

지식 재산권(IP) 침해

AI 증강 개발과 잠재적인 IP 침해는 특히 저작권 영역에서 복잡한 법적 문제를 일으킬 수 있다. AI 모델은 방대한 데이터 집합을 사용해 학습되고, 이 데이터 집합에는 저작권으로 보호되는 콘텐츠도 포함될 수 있으므로 그 결과물도 저작권으로 보호되는 기존 자료와 유사하거나 그러한 저작권을 침해하는 경우가 발생한다. 이 경우 소송으로 이어질 수 있다.

제품 디자인 기업 프라이어리티 디자인(Priority Designs)의 소프트웨어 엔지니어 조셉 무드락은 “이런 모델이 지적 재산권을 침해하는지에 대한 현재의 불확실성은 여전히 위험 요소다. 예를 들어 오픈AI와 메타는 각자의 모델에 입력된 데이터의 출처와 관련해서 계속해서 소송에 휘말리고 있다”라고 말했다.

미국 변호사 협회(American Bar Association)는 “생성형 AI 사용이 빠르게 증가하면서 생성형 AI 툴을 상대로 한 저작권 및 기타 지적 재산권 침해 소송도 함께 증가하고 있으며, 이런 소송의 결과에 따라 이 분야에서 주목할 만한 법적 선례가 만들어질 수 있다”라고 설명했다.

로펌인 배너 앤 위트코프(Banner & Witcoff Ltd.)의 파트너 커크 시그몬은 “일반 판매되는 AI 증강 개발 시스템의 대부분은 대량의 데이터 집합을 통해 학습되는데, 이런 데이터의 출처가 명확하지 않다”라고 지적했다. 로펌에서 AI를 전문 분야로 하면서 실제로 부업으로 코딩과 개발 작업도 하는 시그몬은 “코드는 저작권으로 보호가 가능하다. 즉, AI 증강 개발 시스템이 저작권을 침해하는 코드를 생성할 가능성은 분명히 존재한다”라고 말했다.

사이버보안 문제

AI 증강 개발이 안전하지 않은 코드 생성과 같은 잠재적인 사이버보안 위험을 초래하는 경우도 있다. AI 모델은 결함이 있거나 안전하지 않은 데이터 집합으로 학습되는 경우 SQL 주입 또는 크로스사이트 스크립팅 공격과 같은 일반적인 취약점이 내장된 코드를 생성할 수 있다.

또한 AI가 생성한 코드에는 고객 정보, 사용자 비밀번호와 같은 민감한 데이터가 우발적으로 포함돼 잠재적 공격자에게 노출될 수 있다. 민감한 데이터로 모델을 학습시키면 모델이 생성하는 코드를 통해 이 데이터가 의도치 않게 노출될 가능성도 있다.

로펌 피어슨 퍼디난드(Pierson Ferdinand LLP)의 창업 파트너이자 이 회사 개인정보 보호 및 데이터 보호 부문 공동 위원장인 마리암 메세하는 “개인정보 보호 및 사이버 보안 관점에서 검증되지 않은 AI 생성 코드는 소프트웨어 공급망에 심각한 취약점을 유입시킬 수 있다”라고 경고했다.

이어 “기업이 단순히 ‘코드가 정상적으로 보여서’ 또는 표면적인 테스트를 통과했다는 이유로 보안 결함이 내장된 기능을 출시하는 사례가 발생하고 있다. 이러한 문제를 사후에 수정하는 비용, 더 심각한 경우 데이터 유출 사고를 처리하는 데 드는 비용은 초기에 속도 측면에서 얻는 이득을 압도한다”라고 덧붙였다.

잘못된 확신

개발팀과 경영진은 자동화가 인적 오류의 문제를 없애 준다고 믿고, 그 믿음에 따라 AI가 거의 항상 옳을 것이라고 전제하는 경향이 있다. 이 잘못된 확신이 문제로 이어질 수 있다.

카네기멜론 대학 소프트웨어 엔지니어링 연구소의 지능형 소프트웨어 시스템 엔지니어링 기술 책임자인 이펙 오즈카야는 “AI 증강 접근 방식, 특히 생성형 AI를 사용하는 방식은 본질적으로 실수에 취약하다”라고 지적했다.

오즈카야는 “AI 증강 소프트웨어 개발 워크플로우가 이러한 실수를 방지, 인식, 수정, 고려하도록 설계되지 않으면 이후 겉잡을 수 없는 기술 부채로 이어질 가능성이 높다”라고 말했다.

클로드 코드(Claude Code), 센트리(Sentry) 등의 툴과 감정 및 감성 분석을 위한 맞춤형 AI 모델을 사용하는 모스트 러브드 워크플레이스는 AI 증강 개발에서 잘못된 확신을 직접 경험했다.

카터는 “클로드를 비롯한 툴은 완전히 틀린 답조차 맞는 것처럼 포장해서 이야기한다. 한 번은 논리 루프에서 중요한 엣지 케이스를 놓친 적이 있다. 초기 테스트를 통과했지만 실제 사용자가 이용하기 시작하자 제대로 작동하지 않았다. 그 사건 이후 이제는 AI가 개입하는 모든 부분을 여러 단계에 걸쳐 사람이 직접 검증한다”라고 말했다.

카터는 클로드가 출력한 코드는 처음에는 잘 작동하는 것처럼 보였지만 부하 테스트에서 실패했다면서 “해당 코드를 제출한 개발자들에게 그 코드를 선택한 이유를 물었지만 설명을 하지 못했다. 툴에서 출력된 코드를 그대로 제출했기 때문이다. 이후 회사는 설명할 수 없는 것을 내놓지 말라는 명확한 지침을 마련했다”라고 설명했다.

AI 증강 개발에서 얻는 보상

경영진은 생산성 향상과 비용 효율성에 가장 주목하지만 기술 책임자와 개발자가 체감하는 혜택은 AI가 개발자의 배움과 역량 개발을 지원하고 번아웃을 방지하고 소프트웨어 개발을 더 지속 가능한 직업으로 만들어 준다는 점이다.

번아웃 없는 빠른 속도

고품질의 소프트웨어를 빠르게 제공해야 한다는 압박을 받는 개발자가 번아웃을 경험하는 것은 놀라운 일이 아니다. 킥스탠드 리서치(Kickstand Research)가 2024년 소프트웨어 엔지니어링 분야 정규직 전문가 600여명을 대상으로 실시한 설문조사에서 응답자의 약 65%는 지난 1년 이내에 번아웃을 경험한 적이 있다고 답했다.

엔지니어링 관리 플랫폼 제공업체인 젤리피시(Jellyfish)의 의뢰로 작성된 이 설문조사 보고서에 따르면 특히 인력이 부족한 엔지니어와 대규모 조직을 관리하는 책임자에게 이 문제가 심각한 것으로 나타났다. 엔지니어링 조직의 직원 수가 500명 이상인 기업만 보면 관리자의 85%, 경영진의 92%가 번아웃을 경험했다고 답했다.

AI 증강 개발 툴은 작업을 자동화하고 생산성을 높여주므로 이 문제를 해결하는 데 도움이 될 수 있다.

카터는 “클로드 코드는 팀에 큰 업무 부담을 주지 않으면서도 회사가 더 빠르게 움직이는 데 도움이 됐다. 한 번은 어느 신입 개발자가 복잡한 규칙 엔진을 구축하면서 벽에 부딪쳤다. 이 개발자는 클로드를 사용해 논리를 정리하고 벽을 뚫을 수 있었다. 원래는 반나절이 걸릴 일이 약 1시간 만에 해결된 사례다. 시간도 절약됐고 신입 개발자의 자신감도 높아졌다”라고 말했다.

더 깔끔한 코드와 줄어든 버그

AI 증강 개발을 활용하면 버그를 줄이고 코드 품질을 개선할 수 있다. AI 툴이 코드 분석, 버그 탐지, 자동화된 테스트와 같은 작업을 처리할 수 있기 때문이다. 잠재적인 오류를 파악하고 개선 방법을 제안하는 데 도움이 된다.

카터는 “센트리를 사용해 문제를 조기에 탐지하고, 코드를 배포하기 전에 클로드를 사용해 코드를 정리하고 주석을 추가한다. 클로드는 복잡하게 엉킨 코드를 정리하기 위한 좋은 수단”이라고 말했다.

코드가 어떤 동작을 하고 그 의도가 무엇인지를 설명하는 주석은 모두가 코드를 쉽게 이해할 수 있게 해준다. 카터는 이 기능이 특히 영어가 모국어가 아닌 프로그래머에게 도움이 된다고 말했다. 언어 차이에 따른 오해의 여지를 줄여주기 때문이다.

모스트 러브드 워크플레이스는 기업 인증을 위한 인사 관리 SaaS 애플리케이션인 워크플레이슬리(Workplacely)에서 감성 및 감정 평가를 실행한다. 카터는 “AI는 엣지 케이스를 더 빠르게 테스트하고 모델 출력물을 배포하기 전에 비일관성 문제를 파악하는 데 도움이 된다”라고 말했다.

시그몬은 “개인적으로 가장 좋아하는 AI 증강 개발 시스템 사용 용도는 버그 수정이다. AI 시스템은 예를 들어 밤 늦게 코드에서 작은 오타를 찾거나 다양한 신호 시스템 간의 복잡한 상호관계를 파악할 때 큰 도움이 됐다”라고 언급했다.

비용 효율성과 생산성 증대

AI 증강 개발 시스템은 비용 측면에서 효과적이다. 특히 효율성과 생산성 증대, 작업 자동화, 오류 감소, 개발 주기 단축에 따라 장기적으로 그 효과가 더 크게 나타날 수 있다.

시그몬은 “AI 증강 개발 시스템을 사용하면 개발자 채용을 줄여 비용을 절감할 수 있다. 그러나 몇 가지 주의해야 할 부분도 있다. 예를 들어 모두가 경력직 개발자만 채용하고 ‘쉬운’ 작업은 AI에 의존한다면 신규 개발자가 경력직 개발자로 성장할 수 있는 기회 자체가 사라져 미래에 경력직 개발자를 채용하기가 그만큼 더 어려워질 것”이라고 말했다.

듀안은 AI가 “일상적인 코딩 작업을 자동화하고 버그를 발견하고 성능을 최적화해서 개발 시간과 비용을 비약적으로 줄여줄 수 있다”라고 말했다.

듀안은 “깃허브 코파일럿과 같은 툴은 개발자에게 실시간 코드 제안을 통해 배포까지 소요되는 대폭 줄여준다는 사실이 입증됐다. 지금까지 여러 기업이 릴리스 주기가 최대 35% 더 빨라졌음을 보고했으며, 덕분에 계획 단계에서 프로토타이핑 단계로 전례 없이 빠르게 이전하고 있다”라고 전했다.

즉석 업스킬

기술 인력 부족은 조직과 개발 운영에서 가장 큰 장애물 중 하나다. AI 기반 툴은 개발자가 개발 과정에서 새로운 기술을 유기적으로 익히는 데 도움이 된다.

카터는 “신입 팀원이 경력직 엔지니어처럼 생각하기 시작하는 시점이 훨씬 더 빨라졌다. 특히 한 팀원은 전에는 끊임없이 지도를 요청했지만 이제는 클로드를 사용해서 아이디어를 테스트하고 구조를 검토한 후 더 고차원적인 질문을 들고 찾아온다. AI가 작업 방식에 변화를 가져온 것”이라고 말했다.

듀안은 AI 덕분에 노코드와 로우코드 플랫폼이 가능해지면서 공식적인 프로그래밍 교육을 받지 않은 사람에게 코딩 진입 장벽을 낮아진 부분을 언급하며 “이 변화는 포용적인 혁신 생태계라는 회사의 비전과도 일치한다”라고 말했다.

예를 들어 버블(Bubble), 재피어(Zapier)와 같은 플랫폼은 기술 관련 교육을 받지 않은 기업가, 교육자 등이 코드를 전혀 작성하지 않고도 솔루션을 구축하고 작업을 자동화할 수 있게 해준다. 듀안은 “결과적으로, 이전에는 참여할 방법이 없었던 수많은 새로운 의견이 이제는 디지털 솔루션 구축에 참여할 수 있게 됐다”라고 강조했다.

dl-itworldkorea@foundryco.com