캠브리지 컨설턴트가 고객사와 진행하는 AI 프로젝트들은 데이터 센터를 벗어나 현재 실생활에 머신 러닝 기술을 적용하는 과정이라고 볼 수 있다.
인공지능 르네상스: 그 발생 원인과 향후 방향
현재 우리가 직면하고 있는 규모, 비용, 전력 및 연결성 (connectivity) 측면의 여러 한계점들은 Edge AI를 최대치까지 발전시키기 위해 극복해야 하는 중대한 과제들이다.
이를 해결하기 위해 캠브리지 컨설턴트는 아시아의 기술 대기업과 최근 AI 프로젝트를 진행하였다.
본 프로젝트를 통해 고객사의 AI 알고리즘이 후보 Edge 컴퓨팅 디바이스에서 처리되는 속도를 약 10배까지 높이는데 성공했다. 그 뿐만 아니라 미래 설계 관련 의사 결정의 기반이 될 수 있는 진정한 성능 기준치(benchmark)를 마련하게 되었다.
필자는 아래 영상에서 본 프로젝트를 통해 얻은 인사이트를 자세히 공유하고자 한다. 캠브리지 컨설턴트는 이례적으로 AI와 반도체 두 분야의 전문성을 조합하여 본 프로젝트에 적극 활용하였다. 덕분에 캠브리지 컨설턴트 고객사는 세계 선두 실리콘 플랫폼 개발 및 최적화에 성공하였고 수 십억 달러 상당의 가치를 창출하게 되었다.
Edge AI나 최신 AI 솔루션을 통해 해결해야 하는 비즈니스 도전 과제에 대해 자세히 논의하고 싶으신 독자 분들은 tim.ensor@cambridgeconsultants.com 로 연락 주시기 바랍니다.
캠브지리 컨설턴트의 AI 및 분석 분야 활동이 궁금하시다면 여기를 참조하세요.
자막
인공 지능 시스템은 거의 일주일 간격으로 발전을 거듭하면서 업무 처리 성능이 인간과 유사하거나 인간을 뛰어 넘는 수준까지 발전하였습니다. 이러한 성과를 실질적으로 활용하기 위해 캠브리지 컨설턴트의 고객사들은 자사 인공지능 알고리즘을 데이터 센터를 벗어나 실제 사용자들의 Edge 디바이스에 접목시킬 수 있는 방법을 모색 중입니다.
최근 캠브리지 컨설턴트 팀은 한 아시아의 기술 대기업의 AI 개발팀과 협업하여 해당 고객사의 지능 플랫폼이 가진 Edge 요소를 활용하는 AI 프로젝트를 실시하였습니다. 고객사의 AI 알고리즘이 후보 Edge 컴퓨팅 디바이스에서 처리되는 속도를 약 10배 이상 증가시키는데 성공하였고, 이 작업을 통해 고객사는 설계 결정에 기반이 되는 진정한 성능 기준치(benchmark)를 마련하게 되었습니다.
텐서플로우(Tensorflow)나 파이토치(Pytorch)와 같은 인공지능 프레임워크가 개방적이고 교차 플랫폼화 되고 있는 가운데 이들 모델을 해당 고객사의 특정 프로세서에 적용 시 툴이 훨씬 복잡해지고 기능이 각 디바이스 별로 한정된다는 문제를 안고 있었습니다. 결과적으로, 캠브리지 컨설턴트 고객사 엔지니어링 팀은 그들의 모델들 중 일부가 충분히 빨리 실행되도록 하기 위해 고군분투했지만 충분한 속도를 확보하기 어려웠고, 또 일부는 변환이 전혀 불가능한 상황이었습니다.
캠브리지 컨설턴트 팀은 각 모델 별로 추론(inference)에 불필요한 부분은 무엇인지, 여러 프로세서 플랫폼에서 다양한 방식으로 지원 가능한 연산(operation)은 무엇인지 파악할 수 있는 역량을 갖추고 있었습니다. 그 역량과 더불어 기타 다양한 최적화 기술을 활용하여 해당 모델의 크기와 메모리 사용량을 각각 75%, 80% 줄이면서 처리 속도는 10배 이상 향상시켰고, 정확도는 3% 타협하는 수준에서 이 모든 성과를 이뤄냈습니다. 특정 핵심 기능이 해당 툴에서 아예 지원되지 않은 기타 모델의 경우 잠재적 대안을 제안하였습니다.
그 결과 고객사는 특정 업무량 기준으로 고객사의 후보 프로세서 플랫폼 성능을 제대로 측정할 수 있는 성능 기준치를 확보할 수 있었고 해당 툴의 기능과 한계점을 제대로 파악할 수 있게 되었습니다. 더 나아가 고객사들은 전세계 공장이나 병원, 도시 등 최종 사용자들의 Edge 디바이스에 AI를 접목시키겠다는 자사의 미래 비전 추진에 확신을 얻게 되었습니다.
고성능 임베디드 Edge AI 시스템 또는 최신 AI 솔루션으로 해결할 수 있는 기타 비즈니스 도전 과제에 대해 자세히 논의하고 싶으신 독자 분들은 연락 주시기 바랍니다.
더 많은 캠브지리 컨설턴트 프로젝트 사례들이 궁금하시다면 cambridgeconsultants.com/ai
