#메타버스AI뉴스 이현우 교수 칼럼

#메타버스AI뉴스 이현우 교수 칼럼

*반도체와 인공지능은 함께 달리는 수레바퀴

인공지능과 반도체는 서로 뗄 수 없는 관계라고 할 수 있다

인공지능은 대량의 데이터를 처리하고 학습해야 하기 때문에

이를 위해서는 강력한 컴푸팅 성능이 필요합니다 반도체는 컴푸터의

핵심부품으로서 데이터처리와 연산을 담당합니다. 따라서 인공지능의

발전을 위해서는 반도체의 기술의 발전이 필수적 입니다.

1계산 성능의 요구

2 반도체 설계의 최적화

3 AI의 반도체 제조에의 적용

4 신기술 개발의 촉진

5 AI와 반도체 산업의 상호작용

   EX) 손글씨 인식하는 인공지능 개발

          수천만장 데이터를 몇 일 동안 학습~CPU

          몇 시간 만에 학습시키는 효과~GPU 병렬연산 특화

     예)1과 7, 0과 9 햇갈린다

6 파이션 대신하는 *구글 Colab 클라우드 작성한 코드

7 CPU, T4 Gpu, TPU.A100GPU.V100 GPU 뭘 선택하나?

     A100GPU (월 9.99달러)

     H100Tensor Core GPU 7일 걸리는 시간 20시간 줄인다

* CPU,GPU,NPU,TPU,LLM,APPlication

    NVIDIA,Qualcomm.lntel 신제품

    공통점은 모두 컴푸터 및 인공지능 시스템에서 사용되는 다양한

   종류의 프로세서(처리장치)입니다

    프로세싱 역할: CPU순차적 방식,.GPU병렬식방식.NPU 특수한 방법 및

    TPU는 모두 데이터를 처리하고

    연산을 수행하는 데 사용됩니다

    병렬처리: GPU,NPU 및 TPU는 모두  대규모 데이터를 처리하고

    연산을 수행하는 데 사용됩니다. 각각 다른 유형의 작업에 특화되어

    있습니다

   속도 및 성능향상: CPU 보다 빠른 속도 성능 설계 특히 GPU,NPU및

      TPU 는 고성능 컴푸터 딥러닝과 작은 작업에 사용된다

   에너지 효율성: CPU,GPU,NPU및 TPU 전력소비를 최소화 한다

   특화된 작업: CPU 일반적인 컴푸터 작업, GPU그래픽 병렬작업

    NPU 신경망 딥러닝작업 TPU 딥러닝의 가속화

   *NPU 을 써야 하는 이유

    1 대규모 인공지능 모델을 학습하거나 추론하는 경우

    2 실시간으로 인공지능을 사용하는 경우

    3 전력소모를 줄여야 하는 경우

    4 비용을 절감해야 하는 경우

*LLM 대한 설명

   LLM은 Legum Magister의 약자로, 라틴어로 법학석사를 의미합니다

   따라서 L법학을 의미하고 M은 석사를 설명합니다

   Large 거대 Language 언어 Model 인공지능모델

    SOTA (State of the Art 최첨단)SOTA는 특정한 분야 최고 수준의

성과나 기준은 말합니다

  GPT 4- (OPen AI)-GPT3 후속 모델 크기와 정교한 언어 이해와 생성

    능력을 갖추고 있다

  PaLM 2(구글)~Pre-trained Automatic Metrics를 사용한 모델

    사전 훈련된 언어모델을 사용하여 번역,요약,질문,응답 등을 다양한

    NLP 작업에서 성능 평가를 위해 사용합니다

    NLP(natural language processing 자연어처리)NLP 컴푸터가 인간의

    언어를 해석하는 필요한 알고리즘을 포함합니다 이 분야는 언어의 구조와

    의미를 분석하여 텍스트를 읽고,해석하며, 때로는 자연스러운 언어로

    대답하게 합니다 NLP응용분야는 기계번역,감정분석,텍스트분류

    질문 응답 시스템 등이 있습니다

    LLaMA(MeTa AI) Language Model benchmark (LLAMA)에서

    개발한 작업중심의 언어모델 SOTA를 달성했습니다

    다양한 자연어처리작업 포함하여 언어 모델의 성능을 평가하고

    비교하기 위해 사용합니다.

    GPT 4.0 질문을 잘하면 의학용LLM 성능이 좋다

   LLM에게 사랑하는 사람에게 질문하면 답변을 잘해준다

   *인공지능 기술이 APPLICATION 으로 동시통역 서비스이다

     세계메타버스AI연맹 이사장

     메타AI뉴스 발행인 이현우 교수