생성형 AI

LLAMA-2와 같은 오픈 소스 모델을 사용하여 YouTube 동영상 관련 질문을 처리하는 챗봇 개발합니다. 미리 학습된 LLM은 유용하지만, 연속적인 학습 기능이 없어서 때로는 부정확한 정보(환상,hallucinations)를 제공할 수 있다는 한계가 있습니다. 이 문제를 해결하기 위해 질문 프롬프트에 상황 정보를 포함시키는 방법이 중요합니다. 이렇게 하면 오픈 소스 모델을 효과적으로 활용하면서 동시에 사용자의 개별적이거나 전용 데이터 소스와 함께 사용할…

테크놀로지 레이더는 전 세계 Thoughtworkers의 실질적인 경험에 기반하여 도구, 기술, 플랫폼, 언어, 그리고 프레임워크에 대한 현황을 담고 있습니다. 연간 두 번 발표되며, 현재 세계가 소프트웨어를 어떻게 제작하는지에 대한 인사이트를 제공합니다.

The Dawn of LMMs: Preliminary Explorations with GPT-4V(ision) PDF Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Models 초록 대형 다중 모달 모델(LMM, Large multimodal models)은 시각적 이해와 같은 다중 감각 능력을 가진 대형 언어 모델(LLMs, large language models)을 확장하여 더욱 강력한 일반 지능을 달성합니다. 이 논문에서는 GPT-4V(ision)1과 같은 최신 모델을 분석하여 LMM에 대한…

OpenAI의 제목은 인간화된 표현을 사용하지만, ChatGPT Vision은 실제로 볼 수 없습니다. 그러나 이는 이미지 입력을 처리하고 분석할 수 있어, 이런 능력이 인간의 두뇌가 할 수 있는 것과 상당히 유사하다고 느낄 수 있게 합니다. ChatGPT Vision은 OpenAI의 최신 발표로서, 생성적 AI 챗봇에 멀티모달(다양한 모드의) 능력을 부여합니다. ChatGPT Plus 구독자들은 iOS 또는 Android의 ChatGPT 앱에 이미지를 업로드할…

ReAct Prompting: How We Prompt for High-Quality Results from LLMs | Chatbots & Summarization ReAct Prompting 프롬프트 엔지니어링은 대규모 언어 모델(LLMs)로부터의 결과의 품질과 정확성을 향상시키는 방법을 찾는 것에 관한 것입니다. 최근 몇 개월 동안, 생각의 연쇄(chain-of-thought) 프롬프팅과 같은 발전은 프롬프트 엔지니어가 그들의 결과의 품질을 향상시키는 데 도움을 주었습니다. 이 글에서는 우리의 목표 상태 출력에 도달하는…

RAG는 LLMs를 보강하고 그들의 고유한 제한 사항 중 일부를 극복하기 위한 상대적으로 저렴하고 간단한 방법입니다. 그러나 실제로 RAG를 활용한 모델들은 정확하게 평가하기 어려울 수 있습니다. UI와 UX에 많은 주의를 기울여 사용자들에게 충분한 문맥을 제공하여 RAG를 활용한 모델이 그들에게 합리적인 답변을 제공하는지 판별할 수 있도록 해야 합니다.

LlamaIndex를 사용하여 로컬 문서에 대한 개인 QA 애플리케이션을 구축할 수 있습니다. 이 시스템은 문서를 인덱싱하여 사용자의 질문에 실시간으로 응답하며, 모든 데이터는 사용자의 기기에서 개인적으로 처리되어 보안이 강화됩니다. 그러나 이 방식의 한계는 정확도와 데이터 공유의 어려움이며, 더 큰 모델과 최적화를 통해 성능을 향상시킬 수 있습니다.