오픈소스 LLMs인 Llama 2와 Falcon을 사용하여 챗봇을 만드는 방법
이 블로그에서는 오픈소스 LLMs를 사용하여 챗봇을 만드는 방법을 배울 것입니다. 우리는 Lit-GPT와 LangChain을 사용할 것입니다. Lit-GPT는 튜닝과 추론을 위한 오픈소스 LLMs의 최적화된 모음입니다. 이는 Falcon, Llama 2, Vicuna, LongChat 및 기타 성능이 뛰어난 오픈소스 대형 언어 모델을 지원합니다.
Read More
Cognita – 사용자 정의 가능한 강력한 RAG 프레임워크
제목: Cognita – 사용자 정의 가능한 강력한 RAG 프레임워크
Cognita는 RAG 시스템을 구축하고 사용자 정의할 수 있는 강력하고 유연한 오픈소스 프레임워크입니다. 데이터 소스, 파서, 임베더, 벡터 DB, 재순위 모델 등 다양한 구성 요소를 모듈화하여 쉽게 확장하고 커스터마이징할 수 있습니다. 또한 직관적인 UI를 통해 데이터 소스 관리, 컬렉션 생성, 쿼리 입력 등의 작업을 간편하게 수행할 수 있어 개발자와 사용자 모두가 효과적으로 RAG 시스템을 활용할 수 있습니다.
PostgreSQL과 함께 Supabase의 벡터 데이터베이스 사용하기
이 가이드에서는 Supabase와 OpenAI를 이용해 벡터와 임베딩을 관리하고 처리하는 방법을 살펴보았습니다. 벡터와 임베딩은 유사성 검색, 군집화, 추천 시스템 등 다양한 응용 분야에서 중요한 역할을 하며, PostgreSQL 확장인 pgvector를 통해 데이터베이스에서도 이를 쉽게 다룰 수 있습니다. 이 도구들을 활용하면 지능적이고 문맥에 맞는 애플리케이션을 개발할 수 있습니다.
Git & GitHub 기초 사용법 완전 정복: 단계별 예제와 함께 배우기
개발자라면 꼭 알아야 할 Git, 그리고 코드 협업의 중심인 GitHub. 처음 접하면 낯설고 어렵게 느껴지지만, 이 글 하나면 설치부터 GitHub 푸시(push)까지 자신 있게 할 수 있습니다. 실제 예제를 따라가며 기초부터 GitHub 인증 문제까지 모두 해결해봅시다. ✅ Git이란 무엇인가요? Git은 버전 관리 시스템입니다. 코드나 문서의 변경 이력을 추적하고, 필요시 과거로 되돌릴 수 있으며, 여러 사람이 동시에…
DeepSeek: 혁신적인 AI 모델의 소개
최근 인공지능(AI) 기술이 빠르게 발전하면서 새로운 모델들이 지속적으로 등장하고 있습니다. 그중 DeepSeek은 혁신적인 Mixture-of-Experts(MoE) 아키텍처를 활용하여 AI 모델 성능의 새로운 기준을 제시하고 있습니다. 본 글에서는 DeepSeek의 주요 특징, 모델 종류, 성능, 그리고 활용 가능성을 심층적으로 탐구합니다. 1. DeepSeek의 주요 특징 Mixture-of-Experts (MoE) 아키텍처 DeepSeek은 Mixture-of-Experts (MoE) 아키텍처를 기반으로 설계되었습니다. 이 아키텍처의 핵심은 모든 파라미터를 동시에…
개발자를 위한 벡터 임베딩: 기초
벡터 임베딩은 검색부터 AI 어시스턴트에 이르기까지 다양한 애플리케이션에서 사용되는 많은 머신 러닝 및 딥 러닝 알고리즘의 기본 구성 요소입니다. 이 분야에서 자신만의 애플리케이션을 구축하려고 한다면 어느 시점에는 벡터 임베딩에 부딪힐 것입니다.
코딩은 끝나지 않았다 – 시대가 바뀔수록, 오히려 할 일은 더 많아진다
요즘 사람들은 이렇게 말합니다.“이제는 코딩 없이도 프로그램을 만들 수 있다.”“AI가 대신 다 해줄 거다.” 하지만 저는 이렇게 말하고 싶습니다.걱정하지 마세요. 시대가 바뀔수록, 오히려 해야 할 일은 더 많아졌습니다. 도스(DOS) 시절, 메뉴 하나도 직접 만들어야 했던 시절 컴퓨터 초창기, 도스에서 프로그램을 만들 때는 탑다운 메뉴 하나도 일일이 코딩해야 했습니다.커서를 움직이고, 선택 항목을 표시하고, 키 입력을 처리하는…
AI 입시 도우미 사용자 화면
생활기록부 관리 자소서 맞춤 가이드 자기소개서 관리 AI 자기소개서 생성 AI 면접 예상 질문 AI 모의 면접 포인트 사용내역 지원가능한 고등학교
AI 시대, 컴퓨터 과학 학습 전략: 문제에 빠져들고 AI와 함께 파도 타기
안녕하세요! 컴퓨터 과학의 세계에 발을 들이거나 막 시작하려는 여러분, 정말 축하드립니다. 지금 이 순간이야말로 컴퓨터 과학을 공부하기에 가장 흥미로운 시기입니다. AI의 등장은 세상을 완전히 바꿔놓았고, 이는 컴퓨터 과학 학습 방식에도 엄청난 변화를 가져오고 있습니다. 과거의 방식에 갇혀 있지 않고, 이 새로운 물결을 타고 나아가는 방법에 대해 이야기해 볼까요? 컴퓨터 과학의 역사: 추상화의 사다리를 오르다 컴퓨터…
문서 중심 개발(DDD)과 TDD — AI 코딩 에이전트 시대의 새로운 흐름
1. 개발의 출발점을 바꾸다 최근 CMS 개발을 진행하면서 요구사항 분석 및 설계 단계에서 사용자 메뉴얼을 함께 작성했다.처음에는 단순히 사용자를 위한 설명서로 생각했지만, 작성할수록 이런 생각이 들었다. “이 메뉴얼 자체를 기준으로 코딩을 시키면 어떨까?” 즉, 테스트 주도 개발(TDD)처럼 ‘문서 중심 개발(Documentation-Driven Development, 이하 DDD)’ 방식으로,메뉴얼을 코드 작성의 기준으로 삼는 접근이었다.놀랍게도, 이건 내가 처음 떠올린 아이디어라고 생각했는데…