현재 사용중인 브라우저 정보

귀하께서 사용하시는 브라우저 종류는 인터넷 익스플로러 브라우저 입니다.

원할한 W브릿지 이용을 위해서는 Edge 브라우저나
Chrome 브라우저를 이용해주시기 바랍니다.

Wbridge 로고

과학기술커리어트렌드

미래유망직업

[전문가칼럼] AI 기술과 최신 반도체 기술의 융합

#생성형AI#AI반도체#인공지능반도체동향#여성과학기술인

조회수 547 좋아요4 작성일2024-05-29

 


 AI 기술과 최신 반도체 기술의 융합, 향상된 성능과 응용: 웨인힐스브라이언트 에이아이 대표 이수민

홍익대 전자공학 학사

카이스트 정보미디어학 MBA

2023 에디슨 어워드 동상 수상

‘2023, 2024 이머징 AI+X Top 100’ 선정

2017~현 웨인힐스브라이언트 에이아이 대표



IT 기술 현황 

기존 기업들은 정보기술(IT, Information Technology)의 도입을 결정할 때 성장 동력, 수익 모델 구축을 주된 목표로 설정했습니다. 이러한 기술 도입 결정은 전통적으로 재무적 관점에서 이루어졌으며, 직접적인 이익의 증대, 총비용의 절감, 그리고 투자 수익률(ROI, Return on Investment)의 계산 가능성 여부가 주요 기준이었습니다.

현대 사회에서 AI 기술은 매우 중요한 역할을 하고 있습니다. 자연어 처리, 컴퓨터 비전, 생성 모델 등의 분야에서는 활발한 연구와 산업 응용이 이루어지고 있습니다. 이에 따라 AI의 발전은 반도체 기술과도 밀접한 관련이 있습니다. 반도체 기술은 AI의 빠른 발전을 가능하게 하는 핵심 요소 중 하나로 인식되고 있습니다.
 

소프트웨어 기술 트렌드

그림 1. NLP 아키텍처 <삼성증권>

그림 2. 트랜스포머의 아키텍처 <위키독스>

최근 GPT-3와 같은 대규모 언어 모델의 등장으로 자연어 처리(NLP) 소프트웨어 성능이 크게 향상되었습니다. NLP 모델은 문장 생성, 번역, 질문 응답 등 다양한 작업에서 우수한 성능을 보여줍니다. 대량의 데이터와 딥러닝의 발전으로, 특히 Transformer와 같은 모델이 등장해 기계 번역, 질문 응답, 감정 분석 등의 작업에서 이전보다 훨씬 우수한 성능을 보여주고 있습니다.



그림 3. Pre-trained Language Model 아키텍처

사전 훈련된 언어 모델(Pre-trained Language Model)은 대량의 텍스트 데이터로 미리 훈련된 후 다양한 자연어 처리 작업에 전이 학습되는 방식으로 사용됩니다. 이를 통해 적은 데이터로도 높은 성능을 달성할 수 있습니다.



그림 4. 다중 데이터 학습을 위한 Multi-Modal Language 모델 개발.

이미지, 음성, 텍스트 등 다양한 모달리티(Modality, 양식×양상) 데이터를 함께 처리하는 멀티모달 자연어 처리, 실시간 대화 인터페이스, 자연어 생성도 중요한 트렌드 중 하나입니다. 이를 통해 더 다양한 응용 분야에서 정보를 자연스럽게 처리할 수 있습니다. 

 

 

 


 

 그림 5. 온디바이스 인공지능 구조. <삼성전자 뉴스룸>


온디바이스(On-Device) AI는 딥러닝 및 기계 학습 알고리즘을 휴대전화, IoT 기기, 임베디드 시스템 및 기타 장치와 같은 기기의 로컬 하드웨어에 내장하여 데이터를 외부 클라우드나 서버로 전송하지 않고도 데이터를 처리하고 분석하는 기술을 말합니다. 데이터의 수가 적은 대신 개인정보 보호, 속도, 오프라인 접근성 등의 강점을 갖춰 스마트폰, 웨어러블 기기, 가정용 스마트 기기 등 다양한 분야에서 활용이 가능합니다.



그림 6. 컴퓨터 비전 사용사례 <삼성증권>

컴퓨터 비전은 컴퓨터와 시스템을 통해 디지털 이미지, 비디오 및 기타 시각적 입력에서 의미 있는 정보를 추출합니다. 이 시각적 데이터를 분석하여 객체 감지, 분류, 추적 등을 수행하여 생산성을 높이고 혁신을 끌어냅니다. 컴퓨터 비전은 자동화, 보안, 의료 진단, 자율 주행 자동차 등 광범위한 분야에서 사용되는 현대 기술 분야의 필수적인 기술입니다. 

범용인공지능(AGI, Artificial General Intelligence)은 사람과 유사한 지능을 가진 기계를 의미하며, 언어뿐만 아니라 이미지, 음성, 영상 등 다양한 데이터를 처리할 수 있습니다. 이러한  일반 인공 지능은 인간의 개입 없이도 자체적으로 학습하고 문제를 해결할 수 있는 능력을 갖추고 있어 '강한 AI' 또는 '완전 AI' 로 불립니다. AI 관련 최신 반도체 기술은 인공지능 작업을 가속화하고 효율성을 높이는 데 중요한 역할을 하고 있습니다.





최신 하드웨어 기술 동향

그림 7. 최신 AI 관련 반도체기술 <삼성증권>

AI 모델의 크기가 계속해서 증가하고 있기 때문에 메모리 접근 및 저장에 대한 최적화가 필요합니다. 최신 반도체 기술은 AI 모델의 메모리 접근 속도를 향상하고, 저장 용량을 늘리는 데 중점을 두고 있습니다.

비트로 컴퓨팅은 양자 현상을 기반으로 하는 혁신적인 기술로, 복잡한 문제를 효율적으로 해결하고 대용량 데이터를 빠르게 처리할 수 있습니다. 이는 암호 해독, 신약 개발, 금융 분석 등의 분야에서의 혁신과 발전을 끌어내며, 새로운 기술의 획기적 발전을 예고합니다.

메모리 집적화 기술은 작은 공간에 더 많은 데이터를 저장하고 더 빠르게 접근할 수 있도록 함으로써 컴퓨팅 성능을 향상하고 에너지 효율성을 높입니다. 이는 모바일 기기부터 대규모 데이터 센터까지 다양한 응용 분야에서 필수적이며, 기술 혁신과 경쟁력 확보에 중요한 역할을 합니다.

HBM(High Bandwidth Memory)은 GPU나 AI 가속기와 같은 고성능 하드웨어에서 주로 사용됩니다. 대규모 데이터를 효율적으로 처리하고 메모리 병목 현상을 줄이는 데 도움이 됩니다.





AI와 반도체 기술의 융합

AI와 반도체 기술의 융합은 현재 기술 산업에서 중요한 트렌드 중 하나입니다. AI 관련 최신 반도체 기술은 인공지능 작업을 가속화하고 효율성을 높이는 데 중요한 역할을 하며 이 융합은 ‘AI를 위한 특수한 반도체 디자인 및 제조’ 그리고 ‘반도체를 이용한 AI 가속화’ 두 가지 주요 방식으로 이루어집니다.

AI를 위한 특수한 반도체 디자인 및 제조
AI 작업을 수행할 때는 전용 하드웨어가 필요한 경우가 많습니다. 특히, 대규모 데이터 처리, 심층 신경망 실행 및 효율적인 모델 학습을 위해서는 고성능 하드웨어가 필수적입니다. AI 알고리즘과 하드웨어 아키텍처의 최적화는 성능 향상과 에너지 효율성을 높이는 데 핵심적입니다. 이를 위해 많은 기업들이 AI 모델에 특화된 하드웨어를 개발하고 있습니다.

AI 플랫폼과 하드웨어 최적화는 딥러닝 모델의 성능 향상을 통해 비용 절감과 시스템의 확장성을 높입니다. 이는 빠른 응답 속도와 더 나은 사용자 경험을 제공하며, 기업의 경쟁력을 강화하는 데 중요한 역할을 합니다.



그림 8. Ampere 아키텍처 <삼성증권>

이 그림은 엔비디아의 암페어(Ampere) 아키텍처의 일부로, 540억 개의 트랜지스터로 제작됐으며 현재까지 제작된 가장 큰 7나노미터(nm) 크기의 칩입니다. 이전 볼타(Volta) 아키텍처에서 최초로 도입된 텐서 코어(Tensor Core)가 행렬 연산을 병렬로 처리하는 방법을 보여줍니다. 최첨단 과학 산업 및 AI 모델의 훈련 및 추론 속도를 향상하는 데 큰 도움이 됩니다.


GPU & TPU

대규모 데이터 처리와 딥러닝 모델 학습에 특화된 하드웨어입니다. GPU는 초기에 그래픽 처리를 위해 설계되었지만, 딥러닝 분야에서도 뛰어난 성능을 발휘하며 사용되고 있습니다. 최근에는 Google의 TPU와 같은 특수한 AI 칩도 등장했습니다. TPU는 클라우드의 중앙 시스템에서만 처리하던 AI 연산을 IoT 에지 기기로 분산해 작업함으로써 연산 속도를 높이고 서비스 지연시간을 단축할 수 있습니다. 이러한 칩은 특히 딥러닝 작업을 가속화하기 위해 개발되었습니다. 


ASIC

특정 AI 작업을 위해 최적화된 반도체 칩으로, 특정 AI 모델에 대한 최적화를 가능하게 합니다. 이는 처리 속도와 효율성을 크게 향상합니다. 예를 들어, 비트코인 채굴을 위한 ASIC 칩이 특정 작업에 특화된 예시입니다. ASIC는 데이터를 픽셀 단위로 행렬화 해 수천 개의 연산기로 분석합니다. 이후 메모리의 데이터를 가져와 각 데이터를 동시에 비교하고 분석합니다. 이 과정에서 별도의 메모리를 필요로 하지 않아 전력을 절약하고, 개발 시 공간도 줄일 수 있습니다.


반도체를 이용한 AI 가속화(AI 하드웨어 가속기)

AI 알고리즘은 계산 집약적이며, 대용량 데이터 처리가 필요합니다. 이를 위해 반도체 기술은 AI 작업을 가속하기 위한 다양한 방법을 제공합니다.


반도체 메모리 기술 (CAS Latency Timing)

CAS Latency Timing은 메모리가 데이터 요청에 응답하여 실제 데이터를 제공하기 시작할 때까지 걸리는 시간을 나타냅니다. 지연 시간은 프로그램의 효율성에 직접적인 영향을 미칩니다. CAS Latency Timing은 DDR 메모리, LPDDR 메모리, GDDR 메모리 등에서 사용됩니다. 이는 컴퓨팅, 네트워킹, 그래픽 처리, 모바일 디바이스 등 여러 용도에 따라 다양한 요구 사항이 있음을 의미합니다. 데이터 중심 응용 프로그램의 증가로 인해 더 빠른 메모리 액세스 속도에 대한 수요가 높아지고 있습니다. 이에 따라 CAS Latency Timing 시장은 연평균 성장률(CAGR)이 높아져 2021년부터 2026년까지 지속적인 성장이 예상됩니다. 삼성전자, SK 하이닉스, 마이크론 테크놀로지(Micron Technology), 인텔(Intel Corporation) 등은 주요 CAS Latency Timing 제품의 제조업체로, 고성능 및 저전력 제품을 다양한 응용 분야에 공급하고 있습니다.



HPC와 GPU의 결합; HPC 기술로 AI 애플리케이션 성능 향상

그림 9. HPC <클루닉스 KSC 2023 발표자료>

고성능 컴퓨팅(HPC)과 그래픽 처리 장치(GPU)의 결합은 AI 애플리케이션의 혁신적인 발전을 이끌고 있습니다. HPC는 강력한 컴퓨팅 리소스를 제공하며, GPU는 병렬 처리 능력을 활용하여 이러한 작업을 빠르게 처리합니다. CPU와 GPU의 결합은 대규모 실험을 위한 방대한 데이터 볼륨을 처리할 수 있어 머신러닝 및 딥러닝 모델의 정확성을 향상하는 데 기여합니다.




결론 및 시사점

AI와 반도체 기술의 융합은 대규모 데이터 처리 및 딥러닝 작업과 같은 고도로 계산 집약적인 작업에 대한 효율성을 높이는 데 중요한 역할을 합니다. 이 기술은 다양한 산업 분야에서 사용되며, 특히 인공지능, 자율 주행, 로봇 공학 등의 분야에서 혁신적입니다. 또한, 향후 반도체 기술과 AI 기술의 발전은 더욱 밀접하게 연결될 것으로 예상됩니다. 

AI와 반도체의 융합은 AI 기술의 발전과 함께 진화하고 있으며, 다양한 산업 분야에서 더 높은 성능과 효율성을 가진 AI 시스템을 가능하게 합니다. 이는 산업 혁신과 경쟁력 확보에 기여합니다. 

현재 범용성이 높은 CPU와 GPU 시장은 기술적으로 성숙 단계에 접어들었습니다. 이에 따라 최적화된 저전력, 고효율의 ASIC 중심으로 시장이 성장하고 있습니다. 미래에는 AI 반도체가 데이터 센터와 같은 고성능 서버뿐만 아니라 자동차, 스마트폰 등 디바이스에도 탑재될 것으로 예상되며, 이를 위해 추론용으로 사용되는 반도체의 비중이 늘어날 전망입니다. 초기에는 머신러닝 학습용으로의 수요가 높겠지만, 장기적으로는 학습 데이터를 기반으로 AI 서비스를 구현하는 추론용 수요가 더욱 증가할 것으로 예상됩니다.







참고자료



Haifeng Wang, 2021, Pre-Trained Language Models andTheir Applications, Elsevier.

이선재, 한국전자통신연구원, AI 반도체 기술동향과 산업생태계, ICT Standard Weekly 제1127호

박지훈, 2024.01,인터넷 필요 없는 손안의 비서, 2024년은‘온디바이스AI’ 전쟁, 매일경제.

최형석, 2024.01,CES 주무대 장식할‘온디바이스AI’ 주목, 조선경제

Appen, 2023.04, 컴퓨터 비전과 머신 비전의 차이점, 실제 사례를 통해 알아보기. 

Superb AI, 2021.07, 컴퓨터 비전 데이터에 대한 모든 것. 

임유경, 2023.11,'초거대AI-클라우드-AI반도체' 삼각편대 갖추기분주…합종연횡도 활발, 이데일리

테크월드, 2019.07,AI 칩 프로세서의 종류와 적용 사례. 

오늘의 ICT 뉴스, 2023.07,주간기술동향, CAS (Conditional Access System).

LG이노텍, 2023.12, 다종 데이터학습을 위한Multi-Modal Learning 모델 개발, DSBA

SK 텔레콤 뉴스룸, 2022.04, [테크 스토리] 왜 ‘AI 반도체’가 반도체의 미래라고 불릴까?. 

김주영, 2024.05, 삼성에 이어 애플도…'AI 반도체' 경쟁 격화, 연합뉴스 TV.