atfortes/awesome-llm-reasoning

멋진 LLM 추론

LLM과 MLLM의 추론 능력을 해제하는 방법에 관한 엄선된 논문과 자료 모음.

🗂️ 목차

조사 분석 기법

🔤 대규모 언어 모델에서의 추론 - 출현 능력 🧠 대규모 언어 모델에서의 다중 양상 추론 🤏 더 작은 언어 모델을 이성적으로 확장하기

기타 유용한 자료 기타 멋진 목록들 기여

LLM의 상징적 추론 능력을 테스트하고 싶다면 다음을 확인해 보세요: LLMSymbolicReasoningBench 😄

조사

2025

1. 다중 모달 사고 연쇄 추론: 종합 조사. [코드]

야오팅 왕, 우성궁, 장위청, 윌리엄 왕, 류즈웨이, 제보 루오, 하오 페이. 프리프린트 '25

2. 데이터 오염에 대한 대형 언어 모델 벤치마크의 최근 발전: 정적 평가에서 동적 평가로. [코드]

시민 첸, 이밍 첸, 제신 리, 이판 장, 중웨이 완, 이신 허, 더지 란, 톈러구, 하이저우 리, 타오 셰, 바이샤키 레이. 프리프린트 '25

2024

1. 대형 언어 모델의 주의 머리: 설문조사. [코드]

정자판, 왕예자오후이, 황유신, 송시차오, 보탕, 화위옹, 리지위. 프리프린트 '24

Awesome LLM Reasoning

 Curated collection of papers and resources on how to unlock the reasoning ability of LLMs and MLLMs.

If you would like to test the symbolic reasoning ability of LLMs, take a look at: LLMSymbolicReasoningBench 😄

Survey

2025

1. Multimodal Chain-of-Thought Reasoning: A Comprehensive Survey. [code]

   Yaoting Wang, Shengqiong Wu, Yuecheng Zhang, William Wang, Ziwei Liu, Jiebo Luo, Hao Fei. Preprint’25

2. Recent Advances in Large Language Model Benchmarks Against Data Contamination: From Static to Dynamic Evaluation. [code]

   Simin Chen, Yiming Chen, Zexin Li, Yifan Jiang, Zhongwei Wan, Yixin He, Dezhi Ran, Tianle Gu, Haizhou Li, Tao Xie, Baishakhi Ray. Preprint’25

2024

1. Attention Heads of Large Language Models: A Survey. [code]

   Zifan Zheng, Yezhaohui Wang, Yuxin Huang, Shichao Song, Bo Tang, Feiyu Xiong, Zhiyu Li. Preprint’24