Generative AI project lifecycle

Generative AI 프로젝트의 수명 주기는 사용 사례를 정의하는 범위 설정, 기존 모델 선택 또는 자체 모델의 사전 훈련, 모델의 적응 및 조정, 그리고 응용 프로그램 통합으로 구성됩니다. 이 과정에서는 모델의 프롬프트 엔지니어링, 미세 조정, 인간의 피드백과 조정 및 성능 평가를 포함합니다. 마지막으로, 모델을 실제 환경에 배포하고, LLM 기술을 활용한 응용 프로그램을 개발합니다.

Read More

고급 AI 프롬프트 작성 프레임워크를 사용하여 결과 향상시키기

Advanced AI prompt writing framework’s to improve your results 고급 엔지니어링 프레임워크를 사용하여 AI 프롬프트의 출력을 제어하는 것은 프롬프트 작성에 어려움을 겪고 있거나 프롬프트를 더욱 세밀하게 조정하고 싶을 때 매우 유용할 수 있습니다. 이 가이드는 Guidance와 같은 이러한 프레임워크를 어떻게 사용할 수 있는지에 대한 개요를 제공합니다. 최초로 Microsoft에 의해 소개된 Guidance는 사용자가 특정 출력을 생성하기…

Read More

🧠AI 개발 워크플로우를 10배 향상시키는 비결: 메모리 뱅크 활용하기

AI 에이전트가 코딩 작업을 도와주는 시대, 혹시 이런 생각 해보신 적 있나요? “AI가 우리 프로젝트를 좀 더 잘 이해하면 좋겠다”, “개발하는 동안 AI가 프로젝트의 맥락을 계속 기억해주면 효율이 훨씬 오를 텐데”. 바로 이런 고민을 해결해 줄 혁신적인 기법이 등장했습니다! 바로 ‘메모리 뱅크(Memory Bank)’ 기법입니다. 메모리 뱅크란 무엇인가요? 메모리 뱅크는 원래 ‘cline’이라는 AI 에이전트 시스템에서 소개된…

Read More

Generative configuration: 모델 제어 매개변수 요약

모델이 다음 단어 생성에 대한 최종 결정을 내리는 방식에 영향을 미치는 방법과 관련 구성 매개변수들을 살펴보겠습니다. Hugging Face 웹사이트나 AWS에서 LLM을 사용해 보셨다면, LLM이 어떻게 작동하는지 조정할 수 있는 이러한 컨트롤들을 접해 보셨을 것입니다. 각 모델은 추론 중에 모델의 출력에 영향을 미칠 수 있는 일련의 구성 매개변수를 제공합니다. 이것들은 학습 시간 동안 학습되는 학습 매개변수와는…

Read More

Fine-tuning LLMs

Fine-tuning LLMs Tasks to finetune Before Fine-tuning (base or pretrained model) Fine-turning 지도 학습 과정은 지시 프롬프트(instruction prompts)를 사용하여 언어 모델(LLM)을 미세 조정하는 것을 포함합니다. 지도 학습(supervised learning)은 머신 러닝의 한 분야로, 모델이 레이블이 지정된 데이터 세트에서 학습하는 방법입니다. 이러한 과정에서 모델은 입력 데이터와 해당 레이블 사이의 관계를 학습하려고 시도합니다. “언어 모델(LLM)”은 텍스트 데이터를 처리하고…

Read More

메리 미커, 5년 만에 돌아오다 – AI 대전환기를 진단한 ‘인터넷의 여왕’의 귀환

2025년 6월, 전 세계 테크 업계가 주목하는 한 인물이 다시 무대에 섰습니다.바로 ‘인터넷의 여왕(Queen of the Internet)’이라 불리는 벤처캐피털리스트 메리 미커(Mary Meeker). 실리콘밸리에서 가장 영향력 있는 보고서 중 하나였던 그녀의 **‘인터넷 트렌드 보고서’**는 2019년을 끝으로 멈췄지만, 이번에 5년 만에 AI를 주제로 한 보고서를 발표하며 화려하게 복귀했습니다. 🧠 왜 이 보고서가 중요한가? 메리 미커는 단순한 투자자가…

Read More

🧠《AI 시대의 개발자 생존기 4편》

4편. 살아남는 기술, 사라지는 역할 이전 편들에서 살펴봤듯이,이제 프론트엔드든 백엔드든 AI가 상당 부분을 대신할 수 있는 시대가 되었습니다. 이런 상황에서 자연스럽게 떠오르는 질문이 하나 있죠. “그럼 도대체 어떤 개발자는 살아남을 수 있을까?” 🧨 사라지는 역할: “그냥 시키는 대로 만드는 사람” AI는 점점 ‘지시를 받아 구현하는 역할’을 대체하고 있습니다. 다음과 같은 업무는 이미 상당 부분 자동화…

Read More

[논문]Vicuna: GPT-4를 90%* ChatGPT 품질로 감동시키는 오픈소스 챗봇

Vicuna-13B는 사용자가 공유한 대화를 통해 LLaMA 모델을 미세조정하여 개발된 오픈 소스 챗봇입니다. 초기 평가에서는 GPT-4를 기준으로 Vicuna-13B가 OpenAI ChatGPT와 Google Bard의 품질의 90% 이상을 달성하며, 다른 모델들보다 90% 이상의 경우에서 더 나은 성능을 보였습니다. Vicuna의 훈련 비용은 대략 $300입니다.

Read More