본문 바로가기
반응형

전체 글1040

GPT-5 with github copilot 괜찮은가? 성능 및 반응 요약 GPT-5의 출시 이후 사람들의 반응은 극명하게 엇갈리고 있으며, 기술적 진보와 사용자 경험 사이의 긴장이 뚜렷하게 드러나고 있다.아래에 다양한 관점에서 정리해 보면 다음과 같다.필자도 실제 사용해보니, 윈드서프나 커서와 같이 문서 업데이틑 물론 테스트용 파일도 척척 생생해서 실행까지 해주는 부분이, 전반적인 코드 생성을 해내는 능력이 강해진것으로 보인다.어떻게 보면, 윈드서프나 커서에게 밀리던 1세대형태의 채팅을 벋어나 적극적으로 파일 생성과 코드 생성에 참여된 느낌이다.기존에 그만큼 강력해졌다고 생각이들고, 주요 강점은 아래와 같다.주요 포인트GPT-5의 정의와 구조트랜스포머 기반의 최신 모델로, 인간 수준의 텍스트 생성 능력을 갖춤.파라미터 수와 학습 데이터가 GPT-4보다 훨씬 많음.기억 기능세션.. 2025. 8. 12.
Huggingface - pipelines 설치 및 사용 Hugging Face 에서 제공하는 pipelines는 간편하게 AI를 무료로 이용할 수 있는 기능을 제공한다. 고수준의 라이브러리 단 몇줄로 AI를 활용할 수 있다. 여기에서는 어떻게 이용할 수 있는지 설치 부터 대표적인 이용 방법을 정리해본다.1. 라이브러리 설치!pip install -q --upgrade torch==2.5.1+cu124 torchvision==0.20.1+cu124 torchaudio==2.5.1+cu124 --index-url https://download.pytorch.org/whl/cu124!pip install -q --upgrade transformers==4.48.3 datasets==3.2.0 diffusers최신 버전의 PyTorch 및 관련 라이브러리 설치 (c.. 2025. 8. 6.
AI/LLM 모델 성능을 비교 평가하는 주요 리더보드 정리 다음은 AI/LLM 모델 성능을 비교하고 평가할 수 있는 주요 리더보드 사이트들이다.각 사이트는 다양한 벤치마크, 가격, 속도, 컨텍스트 길이 등을 기준으로 모델을 분석한다.🏆 1. LLM Stats특징: 실시간 업데이트되는 리더보드로, 모델별 성능, 가격, 컨텍스트 길이, 멀티모달 지원 여부 등을 비교 가능.벤치마크: GPQA, MMLU, HumanEval, DROP, SWE-Bench, MMMU 등.모델 예시: GPT-4.5, Claude 3.7, Gemini 2.5, Llama 4, DeepSeek 등.추가 기능: Playground에서 모델 직접 테스트 가능, API 가격 비교도 제공.📊 2. Artificial Analysis특징: 100개 이상의 모델을 다양한 기준(지능, 속도, 가격, 컨.. 2025. 8. 6.
원신6.0 - 달빛 징조? 능력 정보 원신의 '달빛 징조' (Lunar Phase 또는 Moonsign System)는 Nod Krai 지역 캐릭터들과 관련된 새로운 게임 시스템이다 [이전 대화]. 이 메커니즘은 플레이어들에게 많은 논의와 우려를 불러일으키고 있다.다음은 달빛 징조에 대한 자세한 설명이다:메커니즘의 핵심 및 목적파티에 노드크라이 캐릭터 3명이 있어야만 달빛 징조 메커니즘을 최대치로 발휘할 수 있다.이 메커니즘은 노드크라이 캐릭터의 유물 세트의 전체 능력치를 활성화하거나 , 캐릭터 스킬의 핵심적인 부분을 발동시키는 데 필수적이다.예를 들어, Flins의 패시브는 '승천하는 달(ascendant moon)' 상태에서만 발동하고, Lauma는 Nod Krai 캐릭터 수에 따라 3가지 다른 효과를 가진다.유출된 정보에 따르면, 달빛.. 2025. 8. 3.
원신 6.0 - 달 개화 특성 신규 캐릭터 라우마 나히다와 함께 활약할 수 있는 캐릭터로 보이는 풀 원소 향상이 기대되는 캐릭터이다. 라우마는 촉매를 사용하는 풀 원소 캐릭터이며, 별자리는 '은록좌'입니다. 그녀는 노드크라이와 연관되어 있는 '테스트 캐릭터'로 분류됩니다. 라우마의 능력치는 레벨 상승에 따라 HP, 공격력, 방어력 외에 원소 마스터리(EM)가 보너스 스탯으로 증가하는 것이 특징입니다.스킬 특성 및 특징일반 공격: 짙은 숲의 여정기본 공격: 최대 3번의 풀 원소 피해강공격 - 정령화: 스태미나를 소모하여 숲의 정령으로 변해 최대 10초 동안 질주합니다. 이 상태에서는 경직 저항력이 증가하며, 스태미나를 추가 소모해 최대 2단의 연속 점프가 가능정령화 해제 후: 4초의 재사용 대기시간 동안 강공격이 소환 기도로 전환되어 전방에 풀 원소 범위.. 2025. 8. 3.
명조 - 아우구스타(Augusta)와 유노(Iuno) 캐릭터 정보 명조 'Wuthering Waves 2.6' 버전에 새로 등장하는 두 캐릭터, 아우구스타(Augusta)와 이우노(Iuno)에 대한 현재까지 나온 정보로 분석한 내용이다. 아우구스타(Augusta): 전도 광검 DPS희귀도, 원소, 무기: ⭐⭐⭐⭐⭐ | 전도 | 광검외형 및 분위기: 아우구스타는 불타는 듯한 붉은 머리카락과 전투복으로 불타는 태양을 구현하며, 전쟁의 여신 같은 아우라를 풍긴다. 금속 갑옷이 주를 이루지만, 섬세한 얇은 천이 더해져 부드러움을 더하고 독특한 로마 신화 미학을 더한다.역할 및 스킬 메커니즘:아우구스타는 첫 전도 원소 광검 메인 DPS이다.그녀는 높은 빈도의 대미지 출력과 폭발적인 메커니즘에 특화된 새로운 5성 전도 DPS이며, 아마도 전도 스택(Lightning Stacks).. 2025. 8. 1.
WebDancer? - Aliexpress 에서 진행하는 자율적인 정보 탐색 에이전트 논문 요약 원본 논문 WebDancer: 자율 웹 에이전트의 여정 으로 지금 나온 OpenSource들의 모델을 뛰어넘는 성능을 자랑한다.WebDancer 논문을 보면, 최근 LLM에 많이 들어가고 있는 ReAct, 답변전에 먼저 추론(생각)을 하고 이를 통해 행동하고, 관찰하고 다시 다음을 생각하도록 하는 스스로 보다 강력한 학습을 할 수 있도록 구성한 강력한 모델이다.여기에 다시 효과적인 를추론 능력 향상도 큰 부분은 E2HQA (Easy-to-Hard QA), CRAWLQA (크롤링 기반 QA) 를 이용해서 훈련을 아래는 논문 내용을 요약해본 오디오이다. 한번 들어보면 논문이해에 큰 도움이 될 것 이다.1. 주요 목표 및 배경본 연구 "WebDancer: Towards Autonomous Informati.. 2025. 8. 1.
Python - Llama.cpp GPU로 Windows 에서 구동하기 Windows에서 Llama.cpp 버전을 사용하는 것은 필자와 같이 Windows를 주로 사용하는 유저에게는 꼭 필요한 부분으로, 약간은 번거롭지만, 어렵지 않고 한번 해두면 계속 사용할 수 있기 때문에 여기에 정리해 둔다.1. Git 설치Github과 같은 레포스토리지를 활용하기 위해서 설치해야 한다. 기본옵션으로 설치하자.Git - Downloading Package 2. Conda 설치별다른 옵션을 선택할 필요는 없다. 기본옵션으로 설치하자.Download Success | Anaconda설치시 기본 옵션으로 설치하자. 3. Visual Studio - C++를 사용한 데스크톱 개발 설치Windows용 Visual Studio C/C++ IDE 및 컴파일러윈도우에서는 cmake, nmake와 .. 2025. 7. 31.
Python - FastAPI로 로컬 LLaMA 모델을 API 실행 FastAPI를 이용하면, Ollama를 이용하지 않고도 직접 모델을 서비스하는 것이 쉽게 가능하다.만약 직접 모델을 다운로드하여 보다 자유롭게 운영하고 있다면, 아래와 같이 실행해보는 것을 추천한다.from fastapi import FastAPI, Requestfrom pydantic import BaseModelfrom llama_cpp import Llamaimport uvicorn# 모델 로드model_path = r"F:\LLM\Models\Meta-Llama-3.1-70B-Instruct-GGUF\Meta-Llama-3.1-70B-Instruct-Q3_K_M.gguf"llm = Llama(model_path=model_path, gpu_layers=-1)# FastAPI 앱 생성app = F.. 2025. 7. 30.
반응형