Solbi Lee님의 블로그

  • 홈
  • 태그
  • 방명록

Transformer 1

Transformer 자연어 처리 모델 개념 및 원리

1. 트랜스포머란?트랜스포머(Transformer)는 2017년 구글이 발표한 논문 『Attention is All You Need』에서 소개된 딥러닝 모델자연어 처리(Natural Language Processing, NLP) 분야의 혁신을 가져왔다. 기존의 RNN(Recurrent Neural Network)과 LSTM(Long Short-Term Memory)이 가진 문장의 순차적 처리로 인한 속도와 효율성 문제를 근본적으로 개선하여 등장한 모델트랜스포머 모델은 현재 널리 사용되고 있는 BERT, GPT(예: ChatGPT), T5 등의 대표적인 NLP 모델에서 핵심적인 구조로 사용되고 있다. 2. 트랜스포머의 장점 * 기존 RNN과 LSTM은 문장을 단어 단위로 순차적으로 처리하기 때문에 처리 ..

Data Analysis Study 2025.08.03
이전
1
다음
더보기
프로필사진

Solbi Lee님의 블로그

AI 활용 소프트웨어 개발과 데이터 분석을 공부합니다.

  • 분류 전체보기 (141)
    • Programming Study (43)
      • Java Script & Node.js (1)
      • Java Spring (12)
      • Python & AI (22)
      • Computer Vision (6)
      • 자연어 처리 (NLP) (1)
      • AI Agent (1)
    • 논문 리뷰 (6)
    • Projects (13)
      • Final Project (5)
      • YOLO (꿀벌 탐지) (4)
      • OCR (금융문서) (2)
      • 교통약자를 위한 네비게이션 개발 (1)
      • 오류 해결 (1)
    • Data Analysis Study (73)
    • 나의 생각 (2)
    • 나의 이야기 (1)

Tag

RAG, AlexNet, DBSCAN, KNN, ReLU, cnn, 순환신경망, 선형회귀, ai, GNN, GRU, rnn, SVM, TensorFlow, 머신러닝, LSTM, xgboost, 딥러닝, 객체탐지, 데이터분석,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/04   »
일 월 화 수 목 금 토
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바