Visualização de leitura

칼럼 | AI 거품론 속 진짜 승부수, 엔비디아의 장기 전략

AI는 오늘날 업무 방식과 삶의 방식, 나아가 네트워크 트래픽까지 변화시킬 것이라는 기대를 받고 있다. 흥미롭고 심지어 흥분되는 흐름이지만, 만약 이 모든 것이 과장된 기대에 불과하다면 어떻게 될까. 월가는 AI에 대한 각종 주장에 점점 더 불안감을 드러내고 있으며, 엔비디아는 AI 산업의 중심에 있는 동시에 이러한 우려의 한복판에 서 있다. 현재의 AI 모델이 엔비디아와 같은 AI 기업의 재무 성과까지 포함해 모든 것을 바꿀 수 있을지에 대해서는 여전히 불확실성이 존재한다. 이는 분명한 리스크이며, 리스크에 직면했을 때 필요한 것은 ‘보험’이다. 다만 중요한 것은 적절한 형태의 보험을 선택하는 일이다.

현재 AI 투자 대부분은 클라우드 기반 기술에 집중돼 있다. 실제로 지출의 주체가 클라우드 사업자라는 점을 고려하면 자연스러운 흐름이다. 그러나 많은 투자자들은 이러한 접근 방식 자체가 일종의 ‘하이프’에 불과하다고 보고 있다. 엔비디아는 기존 모델을 공개적으로 부정하지는 않는다. 여전히 주요 수익원이기 때문이다. 대신, 시장의 기대가 붕괴되는 상황에 대비해 다양한 AI 접근 방식을 적극적으로 모색하고 있다. 일부는 작은 시도에 불과하지만, 일부는 대규모 프로젝트로 확장되고 있으며, 이들 모두가 중요한 의미를 갖는다.

엔비디아의 ‘AI 보험 전략’을 보여주는 대표적인 사례는 GPU 드라이버 업데이트 과정에서 확인할 수 있다. 엔비디아는 ‘ChatRTX’를 통해 RTX 30 시리즈 이상 GPU에서 오픈소스 기반 챗봇 LLM을 직접 실행할 수 있도록 지원하고 있다. 사용자는 자신의 데이터와 연동하면서도 완전한 데이터 주권을 유지할 수 있다. 이미 이전부터 존재하던 기능이지만, 최근 들어 이를 적극적으로 부각하고 있다. 이는 대형 클라우드 기반 챗봇에 대한 대안이자, 온프레미스·자체 호스팅 AI의 가능성을 보여주는 사례로 평가된다.

실시간 컴퓨팅 분야도 중요한 축으로 부상하고 있다. 엔비디아는 자사의 AI 도구를 활용해 디지털 트윈을 구축하는 기술을 꾸준히 발전시켜 왔으며, 이를 ‘월드 모델’로 정의하고 있다. 이 기술은 물리적 시스템을 모델링하고, 애플리케이션이 실제 환경의 실시간 프로세스를 제어할 수 있도록 지원한다. 지난 3월에는 기계 팔, 차량, 휴머노이드 로봇 등 다양한 형태의 로봇과 AI, 월드 모델을 결합하는 대규모 이니셔티브를 발표했다.

이러한 최신 전략에서 핵심은 ‘인지(perception)’ 기술이다. 이는 센서와 영상 데이터를 통해 현실 세계의 상태를 분석하고, 이를 제어 대상 프로세스를 반영하는 월드 모델에 반영하는 능력을 의미한다. 월드 모델을 현실과 지속적으로 동기화하는 것은 자율 시스템에서 가장 중요한 요소로 꼽힌다. 시스템 간 충돌이나 시설, 사람과의 사고를 방지하고, 의도한 대로 정확히 작동하도록 만드는 핵심 기반이기 때문이다.

이는 막대한 수익 기회를 창출할 수 있는 영역이다. 향후 시장 규모는 지난 70년간 IT 투자를 정당화해온 모든 비즈니스 사례를 합친 수준에 이를 수 있다는 평가도 나온다. 다만 기술 성숙까지는 시간이 필요하다. 현재 자율 시스템 기반 월드 모델을 실제 프로젝트에 활용 중인 기업은 20% 미만에 불과하다. 업계에서는 엔비디아를 비롯한 주요 AI 기업들이 이 시장을 2028년 전후의 핵심 성장 동력으로 보고 있는 것으로 분석한다.

2028년 전망이 다소 먼 이야기처럼 느껴진다면, 그보다 더 장기적인 기술이 있다. 바로 양자 컴퓨팅이다. 이미 일부 시스템은 존재하지만, 기업 환경에서 실제로 활용되는 사례는 사실상 없다. 최근에는 양자 컴퓨팅이 과거 기대와 달리 무한 확장이 어렵다는 분석도 제기됐다. 그럼에도 불구하고 잠재력은 여전히 막대하다. 이론적으로는 적절한 서버 수준의 장비만으로도 슈퍼컴퓨터에 맞먹는 성능을 구현할 수 있지만, 그 시점이 언제가 될지는 아직 불확실하다. 이에 엔비디아는 시장 성숙을 기다리기보다 선제 대응에 나서고 있다.

현재 양자 애플리케이션을 검증하는 유일한 방법은 시뮬레이션이며, GPU는 이를 위한 최적의 플랫폼으로 평가된다. 엔비디아는 CUDA-Q 플랫폼과 cuQuantum 라이브러리를 통해 시뮬레이션을 지원하고, NVQlink와 DGX Quantum을 통해 양자 시스템과 GPU 서버를 저지연으로 연결하는 구조를 구축하고 있다. 또한 ‘엔비디아 가속 양자 컴퓨팅 연구센터’를 통해 연구기관과 기업 간 협력 생태계 조성에도 나섰다. 이 모든 기술은 엔비디아의 양자 클라우드를 통해 초기 접근 형태로 제공되고 있다.

실시간 컴퓨팅과 양자 컴퓨팅이 주목을 받고 있지만, 전략적으로 가장 중요한 요소는 개인용 챗봇과 같은 소형 AI 솔루션이라는 분석도 나온다. AI 월드 모델과 양자 컴퓨팅이 장기적으로 효과를 발휘하는 ‘미래형 보험’이라면, 개인용 챗봇은 현재와 미래를 연결하는 현실적인 대안이다. 즉, 단순한 기대감이 아닌 실질적인 ‘AI 보험’ 역할을 수행할 수 있다는 의미다.

엔비디아 투자자가 아니라면 이러한 흐름이 왜 중요한지 의문이 들 수 있다. 그러나 핵심은 AI 열풍 이면에서 실제 비즈니스 가치를 만들어내는 기반이 구축되고 있다는 점이다. 현재도 기업 환경에서 활용 가능한 실질적 가치가 일부 입증되고 있지만, 본격적인 성과가 나타나기까지는 상당한 시간이 필요하다. 이 과정에서 AI에 대한 기대감은 시장의 관심을 유지하는 역할을 한다는 것이 업계의 시각이다.

결국 과제는 명확하다. 시장의 관심이 다른 곳에 쏠린 상황에서, 상대적으로 주목받지 못하는 AI 비즈니스 영역에 대한 관심을 끌어낼 수 있느냐다. 엔비디아가 이를 성공적으로 수행할 수 있을지 여부는 향후 AI 전환의 속도와 범위를 결정짓는 핵심 변수로 작용할 전망이다. ‘보험’도 중요하지만, 궁극적으로는 지속 가능한 성장 기반을 확보하는 것이 더 중요하다는 점을 시사한다.
dl-ciokorea@foundryco.com

무료 강의부터 전문 자격증 과정까지…ISC2·IBM·AWS 양자 보안 교육 총정리

양자 컴퓨팅 기업들의 발표는 이른바 ‘Q-데이(Q-day)’ 도래 시점을 점점 앞당기고 있다. Q-데이는 양자 컴퓨터가 일반적인 비즈니스 애플리케이션에 활용될 만큼 강력해지거나, 기존 암호화 표준을 무력화할 수 있는 시점을 의미한다. 시장조사기관 포레스터의 최신 전망에 따르면 그 시점은 2030년경이 될 가능성이 크다.포레스터의 애널리스트 브라이언 홉킨스는 보고서에서 “양자 컴퓨팅 산업은 2025년에 변곡점을 넘어섰다”라며 “벤더가 이론적 오류 내성 아키텍처를 넘어 초기 엔지니어링 현실 단계로 이동했다”라고 분석했다.

예를 들어 IBM은 2029년까지 오류 내성 양자 컴퓨팅을 달성하겠다는 로드맵을 제시했다. 홉킨스는 “불과 몇 년 전만 해도 비현실적으로 치부됐을 목표”라고 평가했다.

글로벌 사이버 보안 교육 기관 ISC2의 CISO 존 프랑스는 “양자 컴퓨팅은 기존 암호화 방식에 대한 명확하고도 현실적인 위협”이라고 진단했다.

기업이 양자 컴퓨팅에 대비하는 방법은 크게 두 가지다. 첫 번째이자 가장 시급한 과제는 핵심 기밀을 보호하는 일이다. 국가 단위 행위자와 기타 위협 주체가 이미 암호화된 정보를 수집해 두었다가, 향후 양자 컴퓨터로 이를 해독하려 할 가능성이 높다는 분석이다. 이를 방어하려면 온라인 통신에 주로 사용되는 비대칭 암호보다 상대적으로 해독이 어려운 대칭 암호와, 양자 안전 비대칭 암호 알고리즘을 병행 적용해야 한다. 프랑스는 “이상적으로는 지금 당장 양자 복원력이 있는 알고리즘을 사용해야 한다”라며 “이미 많은 조직이 그렇게 하고 있다”라고 설명했다.

두 번째는 양자 컴퓨팅 도입 시 실질적 이점을 얻을 수 있는 기업이 관련 역량을 선제적으로 확보하는 일이다. 복잡한 금융, 물류, 과학 문제를 다루는 기업이라면 양자 기술을 통해 경쟁력을 강화할 수 있다. 단순히 암호화를 보완하는 것만으로는 충분하지 않으며, 인증 체계 등 보안 전반에 대한 재검토도 필요하다는 지적이 나온다.

다행히 양자 물리학 박사 학위가 여러 개 없어도 기술을 활용할 수 있는 환경이 조성되고 있다. 주요 벤더가 일반 사용자도 접근할 수 있도록 플랫폼을 고도화하고 있기 때문이다. 다만 기본적인 이해를 갖추는 일은 여전히 중요하다.

ISC2는 이러한 수요에 맞춰 최근 사이버 보안 관점에서 양자 컴퓨팅을 다루는 속성 입문 과정을 개설했다. 30분 분량의 온라인 프로그램으로, 수강료는 23달러이며 ISC2 회원은 19달러에 수강할 수 있다. 별도의 선수 요건은 없다.

ISC2의 학습 경험 담당 부디렉터 존 더건은 “이 과정은 주제를 빠르게 이해할 수 있는 기초를 제공하는 데 목적이 있다”라며 “수강생이 양자 컴퓨터를 직접 설계하는 수준까지 다루는 것은 아니지만, 최신 흐름을 따라가면서 보수 교육 학점을 취득할 수 있도록 설계됐다”라고 전했다.프랑스는 향후 양자 관련 과정을 추가로 확대할 계획이라고 밝혔다. 프랑스는 “양자 분야는 변화 속도가 매우 빠르기 때문에 익스프레스 학습 형태로 지속적으로 다룰 예정”이라고 언급했다.

암호화 대응이 가장 많은 기업에 시급한 과제라면, 일부 기업은 이미 양자 컴퓨팅 분야 인재 채용에 나서고 있다. 인재 채용 전문 기업 CNA 서치(CNA Search)의 설립자이자 수석 리크루터 제이슨 크레인은 방산업체, 국립 연구소, 금융 서비스 기업이 대표적이라고 소개했다. 크레인은 “JP모건, 골드만삭스, 여러 헤지펀드가 활발한 양자 연구팀을 운영하고 있다”라며 “대규모 채용 단계는 아니지만, 현재 존재하는 직무의 보상 수준은 매우 높은 편”이라고 설명했다.

다만 양자 인재를 둘러싼 병목 현상도 이미 나타나고 있다. 크레인은 기업이 필요한 인재를 찾고 검증하는 데 어려움을 겪고 있다고 전했다. 대다수 고용주는 물리학, 수학, 암호학, 소프트웨어 엔지니어링 분야의 전문성을 갖춘 학문적 배경을 중시한다. 크레인은 “그 다음으로는 실제 도구와 프레임워크를 활용한 경험을 확인하려 한다”라고 설명했다.

잠재력을 보고 인재를 선발해 내부에서 육성하는 기업도 있다. 크레인은 “현재 클라우드나 사이버 보안 분야처럼 명확한 양자 인증 체계는 아직 없다”라며 “양자 분야로 전환하려는 인재는 벤더 교육, 온라인 강좌, 주요 기업이 공개한 클라우드 환경에서의 실습을 조합해 준비하고 있다”라고 전했다. 이어 “상당 부분은 직접 해보며 배우는 방식”이라고 표현했다.크레인은 구직자에게 양자 역량은 장기적인 투자에 가깝다고 조언했다. 다만 선제적으로 진입할 수 있는 기회가 열려 있다고 봤다. 크레인은 “2010년에 AWS를 배우는 것과 비슷하다”라며 “당시에는 필요성이 크지 않았지만 지금은 모두가 필요로 한다. 초기에 뛰어든 사람은 후회하지 않았다”라고 분석했다.

이제 가격, 경험 수준, 학습 기간별로 살펴본 주요 온라인 양자 컴퓨팅 및 사이버 보안 교육 과정을 소개한다.

온라인 강의 및 수료 프로그램

ISC2 익스프레스 과정

• 과정명: Introduction to Quantum Computing Express Course
• 가격: 비회원 23달러, ISC2 회원 19달러
• 기간 및 방식: 30분, 주문형(on-demand) 자율 학습 과정으로 오디오 및 텍스트 기반 콘텐츠와 이해도 점검 문제 포함
• 선수 요건: 없음
• 이수 혜택: 디지털 수료증, ISC2 자격에 자동 보고되는 그룹 A CPE 0.5학점
• 대상: 신기술과 전략적 보안 이슈에 대한 이해를 넓히려는 사이버 보안 전문가
• 학습 내용: 양자 컴퓨팅의 작동 원리와 기술 발전 방향, 그리고 조직이 양자 시대의 위협에 대비하기 위해 취해야 할 조치를 실무 중심으로 개괄

SISA 수료

• 과정명: 공인 양자 보안 전문가(CQSP)
• 가격: 자격 시험만 299달러, 자격·교육·재시험 1회 포함 700달러
• 기간 및 방식: 16시간 과정으로 온·오프사이트 워크숍 형태, 문서 키트 제공, 팀 교육 및 경영진 대상 프레젠테이션 포함
• 선수 요건: 16시간 CQSP 워크숍 이수 또는 시험 블루프린트 주제를 다루는 최소 16시간 이상의 동등한 공식 교육 이수 권장(사이버 보안 전문가 대상)
• 이수 혜택: CQSP 수료증
• 대상: 양자 컴퓨팅 시대를 준비하는 보안 리더, 아키텍트, 컴플라이언스 담당자
• 학습 내용: 양자 안전 암호, 위험 평가, NIST·ISO·ETSI 표준과의 정렬 방안 등 조직의 양자 대응 전략을 주도할 수 있도록 하는 실무 중심 교육

토넥스(Tonex) 수료

• 과정명: 공인 양자 사이버 보안 분석가(CQCA)
• 가격: 2,199달러
• 기간 및 방식: 2일 과정으로 강의, 실습, 실제 사례 연구를 병행
• 선수 요건: 사이버 보안 개념과 암호 기술에 대한 기본 이해
• 이수 혜택: 전체 시험 점수 70% 이상 및 각 영역별 최소 기준 점수 충족 시 토넥스 CQCA 수료증 부여
• 대상: 사이버 보안 전문가, IT 관리자, 시스템 아키텍트, 보안 솔루션 설계·구현·운영에 관여하는 담당자
• 학습 내용: 양자 컴퓨팅의 기초와 사이버 보안에 대한 영향, 고급 암호 기술, 양자 저항 알고리즘, 양자 키 분배(QKD) 프로토콜

토넥스는 이와 함께 ‘공인 양자 및 포스트 양자 암호 전문가(QPQCP)’ 자격 프로그램도 운영하고 있다.

IBM 양자 학습 프로그램

• 과정명: Practical Introduction to Quantum-Safe Cryptography
• 가격: 무료
• 기간 및 방식: 자율형 온라인 과정으로, 멀티모달 강의와 인터랙티브 실시간 코드 예제 제공
• 선수 요건: 별도 명시 없음, 개발자 대상 설계
• 이수 혜택: 온라인 단기 시험 통과 시 크레들리(Credly)를 통한 IBM 디지털 배지 발급
• 대상: 포스트 양자 시대에 맞춰 애플리케이션 보안을 현대화하려는 개발자
• 학습 내용: 암호학적 해시 함수, 대칭·비대칭 키 암호, 양자 안전 암호의 개념과 함께 진화하는 사이버 보안 위협 환경, 그리고 양자 시대에 적용 가능한 최신 대응 방식

IBM은 이와 함께 200달러에 ‘IBM Certified Quantum Computation using Qiskit v2.X Developer – Associate’ 수료 프로그램을 제공한다. 또한 시험 준비를 지원하기 위해 무료 강좌 5개로 구성된 ‘Understanding Quantum Information and Computation’ 시리즈도 운영하고 있다.

마이크로소프트(MS) 애저 퀀텀 학습

• 과정명: Azure Quantum Learning Path
• 가격: 무료
• 기간 및 방식: 마이크로소프트 런(Microsoft Learn)을 통해 제공되는 6개 자율형 온라인 인터랙티브 모듈(총 약 3시간)과 Q# 프로그래밍 튜토리얼 ‘Quantum Katas’ 포함
• 선수 요건: 애저 생태계와 선형대수에 대한 기본 지식, 비주얼 스튜디오 코드 사용 경험
• 이수 혜택: Microsoft Learn 수료 배지
• 대상: MS 도구를 활용해 양자 프로그래밍을 직접 실습하려는 개발자 및 기술 전문가
• 학습 내용: 양자 컴퓨팅 기초, Quantum Development Kit 및 Q#을 활용한 프로그램 개발 방법, Azure Quantum 리소스 추정기를 통한 물리적 자원 요구량 산정 방법

아마존웹서비스(AWS) 양자 애플리케이션 개발 학습

• 과정명: Skill Builder: Amazon Braket Learning Plan
• 가격: 무료
• 기간 및 방식: AWS 스킬 빌더에서 제공하는 2개 자율형 온라인 과정으로, 60분 입문 과정과 90분 양자 애플리케이션 개발 과정으로 구성
• 선수 요건: 별도 명시 없음, AWS 서비스에 대한 기본 이해 권장
• 이수 혜택: 50문항 온라인 평가에서 80% 이상 획득 시 Amazon Braket 디지털 배지 발급
• 대상: 양자 컴퓨팅 개발자, 교육자, 일반 관심자, 브라켓을 수업에 활용하는 강사
• 학습 내용: Amazon Braket의 기본 개념, 양자 컴퓨터 프로그래밍과 잠재적 활용 사례 탐색, AWS 도구를 활용한 하이브리드 양자-고전 알고리즘 실행 방법

MIT xPRO 프로그램

• 과정명: Quantum Computing Fundamentals
• 가격: 2개 과정 패키지 2,500달러
• 기간 및 방식: 각 4주 과정 2개로 구성되며, 주당 4~6시간 학습 분량. 영상 강의, 시뮬레이션, 사례 연구, 라이브 웨비나를 포함한 100% 온라인 과정
• 선수 요건: 선형대수 기초 지식
• 이수 혜택: MIT 전문 수료증 및 4.0 평생교육학점(CEU)
• 대상: 양자 컴퓨팅이 비즈니스와 기술에 미치는 영향을 이해해야 하는 기업·정부·기술 분야 전문가 및 리더
• 학습 내용: 사이버 보안, 화학, 최적화 분야에서 양자 알고리즘이 기존 알고리즘을 능가하는 방식, 양자 시스템의 공학적 요구사항, IBM Q 경험을 활용한 실습 중심의 비즈니스 적용 사례

시카고대학교 edX 자격 과정

• 과정명: Quantum Computing for Everyone
• 가격: 청강 무료, 수료증 과정 398달러(현재 358달러로 할인 중)
• 기간 및 방식: 약 3개월, 주당 3~5시간, 자율형 온라인 과정
• 선수 요건: 프로그래밍 경험과 기초 대수 지식, 물리학 배경은 필요 없음
• 이수 혜택: 시카고대학교 edX 전문 수료증
• 대상: 고급 수학 지식 없이도 양자 컴퓨팅이 기업, 정부, 사회에 미칠 영향을 이해하려는 학습자
• 학습 내용: 양자 컴퓨팅의 물리학적 기초, 산업과 사회에 대한 영향, 구체적 활용 사례 식별 방법, 1·2큐비트 연산을 활용한 기초 양자 소프트웨어 구현

델프트 공과대학교(TU Delft) edX 자격 과정

• 과정명: Quantum 101: Quantum Computing & Quantum Internet
• 가격: 청강 무료, 인증 전문 수료증 370달러(현재 333달러로 할인 중)
• 기간 및 방식: 2개 과정, 3개월, 주당 6~8시간, 자율형 온라인
• 선수 요건: 기초 물리·수학 지식이 있으면 도움이 되며, 고급 학위는 필요 없음
• 이수 혜택: 델프트 공과대학교 edX 전문 수료증
• 대상: 공학, 화학, 컴퓨터 과학, 물리학 등 다양한 분야에서 양자 기술 심화 학습이나 경력 확장을 준비하는 학생 및 전문가
• 학습 내용: 양자 컴퓨터와 양자 인터넷의 물리적 구현 및 제어 방식, 양자 알고리즘, 오류 수정, 컴파일러와 프로그래밍 언어, 양자 네트워킹과 안전한 양자 통신의 원리

메릴랜드대학교 볼티모어카운티(UMBC) edX 자격 과정

• 과정명: Introduction to Post-Quantum Cryptography
• 가격: 청강 무료, 인증서 249달러(현재 212달러로 할인 중)
• 기간 및 방식: 6주 온라인 과정으로 강의와 실습 병행
• 선수 요건: STEM 입문 학습자 대상, 고급 배경 지식 불필요
• 이수 혜택: UMBC edX 인증 수료증
• 대상: 양자 컴퓨팅 위협에 대응하려는 사이버 보안 전공 학생 및 실무자
• 학습 내용: 양자 안전 암호의 이론과 실제 문제 해결을 포함한 몰입형 입문 과정. NIST 포스트 양자 암호(PQC) 표준인 카이버(Kyber)와 딜리시움(Dilithium)을 활용한 실습 포함

다코타주립대학교 대학원 수료 과정

• 과정명: Quantum Computing for Cybersecurity Graduate Certificate
• 가격: 7,197달러
• 기간 및 방식: 12학점, 온라인 제공
• 선수 요건: STEM 분야 종사자 또는 최근 졸업자, 대학원 입학 요건 충족 필요
• 이수 혜택: 다코타주립대학교 대학원 수료증
• 대상: 포스트 양자 암호와 양자 암호학을 포함해 양자 컴퓨팅이 사이버 보안에 미치는 영향을 심층적으로 학습하려는 STEM 전문가
• 학습 내용: 양자 공격에 견딜 수 있는 암호 솔루션을 분석·설계하는 방법과 함께 공격·방어 전략 전반을 포괄

로드아일랜드대학교 대학원 수료 과정

• 과정명: Quantum Computing Graduate Certificate
• 가격: 약 1만 1,000달러
• 기간 및 방식: 4개 과목, 12학점, 비동기식 100% 온라인 과정으로 2개 학기 이상에 걸쳐 이수하도록 설계
• 선수 요건: STEM 분야 종사자 또는 최근 졸업자, 대학원 입학 요건 충족 필요
• 이수 혜택: 로드아일랜드대학교 대학원 수료증
• 대상: 양자 산업 분야 진출을 준비하는 STEM 전문가 및 졸업자
• 학습 내용: 양자 컴퓨팅 기초 이론, IBM 키스킷(Qiskit) SDK를 활용한 양자 알고리즘 설계 및 적용 역량, 양자 센싱, 텔레포테이션, 암호, 회로, 통신에 대한 전반적 이해

dl-ciokorea@foundryco.com

Leveraging heterogeneous computing architecture to power AI solutions

Artificial intelligence has emerged as the most transformative technology shift since the birth of cloud computing. The organisations are witnessing the movement of AI from isolated experiments to integrated, intelligent, and secure workflows that operate across the entire enterprise, from the device level to the cloud. 

With edge becoming a vital component in the tech stack, heterogeneous edge AI is understandably coming of age as organisations leverage the value of AI into their IT infrastructure.

AI and specifically Agentic AI is helping businesses move from experimentation to execution and create measurable value across industries. 

“A mindset change is required by CIOs and tech leaders from the project-based to the platform-based approach that delivers a unified ML ops, AI ops, LLM ops, observability, security as a foundation, followed by the heterogeneous compute aligned to the workloads,” says Mayur Shah, General Manager and Global Head – platform engineering and innovation, Wipro. 

The collaboration between Intel and Wipro involves leveraging Intel’s heterogeneous computing architecture to power Wipro’s AI solutions, particularly at the edge and for chip design.

“Get the foundation right (technology wise) for AI journey from core to cloud to device is first step for CIOs and tech leaders. And Intel has been at the forefront of that transition,” adds Amit Biswas, the Pre-Sales Strategy and Head of Partner Engineering, Intel. 

Synergy of Wipro and Intel

Intel is buoyant on the concept of democratized AI, that collectively brings data present everywhere, generated  from the edge, from the client to the cloud, to the data centre. 

“Intel’s technology delivers the technology roadmap, with Xeon processors, GPU and accelerators, topped with AMX (Advanced Matrix Extensions) and SVS (Scalable Vector Search), that delivers business outcomes. This rightly empowers partners like Wipro, who develop their solutions on top of this infrastructure and deliver as per the market trends,” says Amit.

Wipro and Intel have a track record of one of industry’s best longstanding trusted partnership backed by innovation engineering. 

The partnership combines Intel’s advanced, heterogeneous hardware capabilities with Wipro’s consulting and software integration expertise to deliver practical, scalable AI solutions across various industries, says Mayur at Wipro.

“We have been consistently working with the engineering team of Wipro to build solutions around heterogenous AI stack,“ adds Amit.

Overcoming the Challenges 

The overarching goal for tech leaders and their organisations is moving AI from isolated experiments to integrated, intelligent, and secure workflows across the enterprise, from the device level to the cloud. This strategy involves implementing AI at the edge using a combination of  high-powered hardware (chipsets) and software solutions(backed with IT services model), says Mayur of Wipro.

But many organisations face challenges with the rapid emergence of heterogeneous AI platforms. 

Amit points out, “There is sudden surge of AI workloads, GPU into the picture, the complexity of various models, and the challenge is how to bring in all together, cohesively. An organisation encompasses AI on CPU, GPU, Client, edge, FPGA and these models need to be transferred and framed in a single framework.” 

The heterogenous AI model must be scalable from the edge to the cloud, to the data centres, on-prem and CIOs need the right resources to run it. 

Mayur of Wipro says, “There are plethora of technologies and choices available, hence the right investment at the right time is one big decision for CIOs. And they need a trusted partner who can get all the things in a consultative manner.”

There is also concern of turning enterprise data into an AI model to keep the data governance and ensure that effectiveness, correctness, hallucination etc are real problems as per Amit.

The prime challenges of skill sets, business case justification, ROI and security highlighted by Mayur and Amit, coerce with the findings of 2025 State of the CIO study by Foundry. 

“On the business side, it’s very difficult to forecast TCO and ROI efficiencies, while preparing the business case. While CIOs gear on AI talent with the urgency of rolling out AI solutions, we do see talent crunch in AI, Gen AI and related technologies,” says Mayur at Wipro.

Selecting the technology partner 

This is the appropriate time for organisations as they transition into the AI era, thereby leveraging heterogeneous computing architecture to accelerate their business growth.

Intel and Wipro are leading that space to help organisations leverage heterogeneous computing architecture to power AI solutions.

With Intel’s diverse infrastructure portfolio, coupled with Wipro’s consulting leadership, the engineering depth, as well as the system integration to design custom verticals-led solutions, we are effectively delivering heterogeneous AI solutions into the market, says Mayur.

The pace at which AI is transitioning makes it crucial for CIOs to select a technology implementation partner that encompasses richness, expertise and capability to deliver the solutions as per Amit. He adds, “For example, in the hugging phase, the most downloaded model is Quinn model. And for optimizing such data set and model, tech partners with relevant skill sets, AI practices and solution offerings, are the preferred choice.”

Agentic AI with the right sized workloads in the ecosystem infrastructure will be a major trend in 2026 as per Mayur of Wipro.  

“A sustainable data centre will become prevalent, because with more consumption  of power with application, delivery of AI, agentic AI. If GPUs are not used, power efficiency is need of the hour and hence the equation becomes vital,” states Amit of Intel. 

CIOs and organizations are continuously leveraging heterogeneous computing architecture for successful AI journey and business growth. 

“CIOs and their teams should design for scale, design for platform build thereby fostering innovation from every stakeholder. Importantly, choose the right tech partner who can complement and contribute towards the AI journey along with them,” says Mayur Shah, General Manager and Global Head – platform engineering and innovation at Wipro.

❌