반응형 전체 글99 Qwen3 Embedding / Reranking 모델 정리 이 글은 Qwen3 Embedding: Advancing Text Embedding and Reranking Through Foundation Models 의 technical report를 정리하였습니다. Qwen3 Embedding Series는 Qwen3 파운데이션 모델을 기반으로 텍스트 임베딩 및 리랭킹 기능을 향상시킨 모델입니다. Qwen3 LLM이 합성한 고품질 데이터를 활용한 multi-stage 훈련 파이프라인과 효과적인 모델 병합 전략이 특징입니다. 다양한 벤치마크에서 SOTA 성능을 달성했으며, 특히 MTEB multilingual 및 code retrieval task에서 경쟁 모델들을 능가하였고, 오픈소스로 공개되었습니다. Embedding Model? 처음에 내가 LLM 임베딩 모.. 2026. 2. 22. Uncertainty Quantification for LLMs : LLM의 불확실성 측정 - (2) Theoretical Background [1] 이 글은 2026 AAAI conference의 "Uncertainty Quantification for Large Language Models" 튜토리얼을 보고 정리한 글입니다. 앞서 Introduction을 정리한 포스팅에 이어, 이번 포스팅에서는 불확실성에 대한 용어와 이론적인 배경에 대해 정리합니다. 왜 단순 softmax 확률이 불확실성이 아닌가?분류 문제에서는 "불확실성"을 가장 쉽게 예측확률로 정의할 수 있음.Binary : 양성 클래스에 대한 예측 확률을 p(y=1 | x) 로 두면, 이 값이 클수록 양성이라고 확신한다고 해석할 수 있음.Multi-class : 가장 가능성이 큰 클래스의 확률을 confidence로 쓸 수 있음.Maximum Probability 기반 불확실성 : 확신이.. 2026. 1. 26. Uncertainty Quantification for LLMs : LLM의 불확실성 측정 - (1) Introduction 이 글은 2026 AAAI conference의 "Uncertainty Quantification for Large Language Models" 튜토리얼을 보고 정리한 글입니다. LLM의 환각 문제를 줄이기 위해 모델 출력의 불확실성을 정량화하고, 그 점수를 이용해 확신할 때만 답하고(Selective Generation), 위험한 주장을 표시하는 등의 방법에 대해 다룹니다. 이 튜토리얼은 크게 SOTA UQ 방법들의 큰 아이디어를 설명하고, LLM 기반 application에 UQ를 배포할 때 실용적인 팁들을 제공하고, LLM safety 연구를 위한 벤치마크 등을 공유합니다. 먼저 이 포스팅에서는 Introduction 부분을 정리하겠습니다. LLM의 환각 (Hallucination)위 그림과 같.. 2026. 1. 26. Masked Self-Attention과 Masked Language Modeling 차이 Masked Self-Attention과 Masked Language Modeling 트랜스포머를 공부하다 보면 “masked”라는 단어가 자주 등장합니다. 그런데 이 용어가 서로 다른 맥락에서 쓰이다 보니 헷갈리기 쉽습니다. 저도 처음에는 인코더도 masked self-attention으로 학습하는 게 아닌가? 하고 착각했던 적이 있습니다.이 글에서는 디코더의 masked self-attention과 BERT의 masked language modeling (MLM)을 구분해서 정리해보겠습니다. 디코더의 Masked Self-Attention디코더는 문장을 왼쪽에서 오른쪽으로 한 토큰씩 생성합니다.학습 과정에서는 전체 정답 문장이 주어지는데, 이 상태에서는 현 시점에서 미래 단어를 보면 안됩니다.그래서.. 2025. 9. 16. LLM의 conformal prediction 앞서 공부했던 Conformal Prediction을 LLM에도 확장시켜서 LLM의 응답에 대해 어느정도 사실을 보장할 수 있습니다. 이 글은 LLM에 Conformal Prediction을 적용하는 주요 흐름에 대해 정리한 글입니다. Conformal Prediction : LLM에서는 어떻게 확장될까?LLM은 종종 사실과 다른 환각 정보를 포함하거나 부적절한 발언 생성 + 모델의 확신 정도도 불명확한 경우가 많음.이를 해결하기 위해 Conformal Prediction(CP) 기법이 LLM 출력의 신뢰도 보장 수단으로 도입됨.CP는 주어진 출력이 올바를 확률을 사용자 지정 수준 이상으로 보장하도록 예측 집합이나 필터링된 출력을 생성하는 통계적 방법. 기존 머신러닝에서 CP는 정형화된 예측 집합(e.. 2025. 8. 14. 생성형 AI 도구별 활용법 - ChatGPT, NotebookLM, Genspark 생성형 AI 도구별 활용법 정리 - ChatGPT, NotebookLM, Genspark 1. AI 도구별 기능 비교구분ChatGPTGeminiGensparkClaudePerplexityDeep Research○●●○○웹 검색○●●○○오디오 요약 생성-●---Canvas(결과 편집)○ (직접 수정 가능)○(채팅을 통해 수정)-아티팩트-폴더 기능프로젝트--프로젝트Collection/SpaceMixture of Agentsor Multi agents-내장형으로 제공●--사용자 맞춤설정GPTs ●Gem ●리서치미 ●설정에서 일부 가능개인화 설정슬라이드 생성△○○○-인포그래픽 생성△○○○△이미지 생성○○MoA-△비디오 생성SoraVeo-2, Veo-3MoA--※ ●: 탁월, ○: 양호, △: 보통 수준, -: .. 2025. 7. 24. Wav2Vec2.0 임베딩을 활용한 자동 발음 평가, 그리고 임베딩 분석 (논문소개) 지난 글에서는 음성 데이터를 Wav2Vec2.0 모델에 입력했을 때, 음성이 어떤 과정을 거쳐 임베딩 벡터로 바꾸는지를 정리했습니다. 이번 글에서는 그 임베딩 벡터를 활용해서 어떻게 자동발음평가 모델을 만들고, 실제로 점수를 예측할 수 있는지 정리해봅니다.End-to-End 자동 발음 평가 전체 구조 요약 Wav2Vec2.0 모델과 같은 self-supervised 모델은 파인튜닝을 통해 발음 평가 모델로 사용할 수 있다.음성 입력을 모델에 넣으면 점수가 output으로 산출되는 end-to-end 자동 발음 평가 모델 전체 구조는 다음과 같다: 1. 음성 입력 → Wav2Vec2.0 → (T, 1024)의 임베딩 시퀀스 생성2. time step마다 나온 벡터들을 평균 (mean pooling) → (.. 2025. 6. 15. 음성 raw waveform에서 Wav2Vec2.0모델의 임베딩 벡터로 변환하는 과정 음성 데이터를 처음 다뤘을 때 raw waveform이 어떻게 Wav2Vec2.0 모델에 들어가서 벡터로 변환되는지, 길이가 다른 발화들은 어떻게 처리되는지 궁금했던 부분을 정리해보았습니다. 입력 : raw waveform Wav2Vec2.0 모델은 전통적인 feature extraction 없이 raw audio waveform을 입력으로 받아, 음향적 특성과 의미적 정보를 담은 고차원 임베딩으로 변환하는 self-supervised 음성 표현 학습 모델이다.음성은 샘플링을 통해 소리를 일정 시간마다 잘라서 숫자로 바꿀 수 있다.보통 샘플링 레이트는 16kHz로, 1초당 16,000개의 숫자로 구성된 벡터를 통해 해당 구간의 소리를 표현한다.예를 들어, 3초짜리 음성이 있다면 16,000 x 3 = .. 2025. 6. 15. AI 연구자가 가져야 할 태도 및 사고방식 OpenAI의 정형원 박사님께서 학자들이 갖춰야 할 자세에 대해 좋은 말씀을 해주셔서 정리해보았습니다."Yet" 의 관점This idea does not work → This idea does not work yet !! 어떤 아이디어가 지금은 실패처럼 보여도, 그것은 "아직 안 되는 것" 일 수 있음. We are used to operating in an environment where underlying axioms do not change. 우리는 전제가 변하지 않는 환경에서 활동하는 데 익숙함.연구자들은 기초 원리(axiom)가 변하지 않는 세계에서 사고하고 실험하는 데 익숙함.예를 들어 물리학에서는 F=ma 와 같은 기본 법칙(공리)은 변하지 않는다는 전제로 실험을 설계. 하지만 AI나 LLM.. 2025. 5. 29. Explainable AI(XAI), SHAP [3] 이 글은 서울대학교 '최신 인공지능 기술' 강의 중 곽노준 교수님의 'Explainable & Responsible AI' 강의를 듣고 정리한 글입니다. SHAP (SHapley Additive exPlanations; NeurlPS'17)성능도 좋고, 사람들이 많이 사용하는 방법. iput이 age, sex, bp, bmi 4개가 있고, output이 0.4일 때..ex) 당뇨라고 하면, 각각의 요소가 중요한 정도가 age는 base 기준, +0.4만큼 contribution 한 것. 당뇨의 경우, 여성의 경우 -0.3.. 여성은 좀 덜 걸린다.. 이런 느낌..이런걸 어떻게 설명?Shapley 라는 노벨 경제학상 받은 분 - SHAP의 A는 "Additive" 니까 서로 cooperativ.. 2024. 12. 13. 이전 1 2 3 4 ··· 10 다음 반응형
