소형 언어 모델 (SLM)을 로컬 및 오프라인으로 실행하기
소형 언어 모델 (SLM)은 높은 활용성으로 유명합니다. 이 모델들은 로컬 환경이나 오프라인에서도 실행될 수 있어, 사용자에게 데이터 통제권을 부여하고 프라이버시를 보장합니다.
소형 언어 모델 (SLM)은 높은 활용성으로 유명합니다. 이 모델들은 로컬 환경이나 오프라인에서도 실행될 수 있어, 사용자에게 데이터 통제권을 부여하고 프라이버시를 보장합니다.
체인 오브 써트 프롬프팅은 복잡한 문제를 중간 단계로 분해하고 각 단계를 해결함으로써 문제의 최종 답변을 도출하는 사람의 생각 과정을 모방하는 기법이다. 이 연구에서는, 체인 오브 써트 프롬프팅이 언어 모델의 연산 능력을 향상시키며, 모델이 제공하는 답변의 행동을 해석하는 창을 제공한다는 것을 보여준다. 특히, 큰 언어 모델에서는 체인 오브 써트 프롬프팅이 성능을 크게 향상시키며, 일부 벤치마크에서는 최신 기술을 초월하는 성과를 달성한다.
영어에 비해 다른 언어에서는 AI 이용료가 최대 15배 더 비싸다 OpenAI 비용 페이지 (2023년 9월 3일) 한글의 토큰 수 계산 오픈AI의 언어 모델에는 여러 모델이 있으며, 각각 다른 능력과 가격 포인트를 가지고 있습니다. 가격은 1,000 토큰당입니다. 토큰을 단어의 조각으로 생각할 수 있으며, 1,000 토큰은 대략 750단어입니다. 이 문단은 35 토큰입니다. (*영어기준) 오픈AI의 토큰나이저를 사용하여 다음…
벡터 임베딩은 검색부터 AI 어시스턴트에 이르기까지 다양한 애플리케이션에서 사용되는 많은 머신 러닝 및 딥 러닝 알고리즘의 기본 구성 요소입니다. 이 분야에서 자신만의 애플리케이션을 구축하려고 한다면 어느 시점에는 벡터 임베딩에 부딪힐 것입니다.
IT(정보기술)는 현대 사회를 형성하는 데 핵심적인 역할을 해왔습니다. 이 글에서는 IT의 주요 발전 과정을 살펴보고, 현재 주목받고 있는 생성형 AI와 같은 첨단 기술이 어떻게 IT의 판도를 바꾸고 있는지 알아보겠습니다. 1. 메인프레임 시대: 기업의 초석 IT의 시작은 메인프레임 컴퓨터의 등장으로 거슬러 올라갑니다. 20세기 중반, 대규모 데이터를 처리하고 관리하기 위해 기업들은 메인프레임을 도입하기 시작했습니다. 이 시기에는 주로…
Cognita는 데이터 로딩, 파싱, 임베딩을 통해 데이터를 벡터 DB에 인덱싱하고, 사용자 쿼리에 맞게 관련 문서를 검색하여 응답을 생성하는 과정을 자동화합니다.
화면은 n8n을 사용하여 AI 에이전트가 Google 캘린더와 연동되는 자동화 워크플로우를 구축하는 방법을 설명하는 예제입니다. 1. 화면 개요 2. 주요 구성 요소 3. 해결 방법 ✅ OpenAI 모델 오류 해결 ✅ Google 캘린더 오류 해결 ✅ 워크플로우 실행 테스트 이 워크플로우는 OpenAI 모델을 이용한 AI 일정 관리 비서를 만드는 예제입니다.설정이 완료되면, 채팅을 통해 Google 캘린더의 일정을…
“비개발자도 엑셀 자동화를?” – Claude Code가 가능하게 한 일 업무 자동화, 개발 없이 가능할까? 재무팀이나 기획팀에서 반복적으로 하는 일이 있습니다.예를 들어: 이런 일들은 “개발자만 자동화할 수 있는 영역”처럼 느껴집니다.하지만 Claude Code를 활용하면, 개발을 몰라도 자동화가 가능합니다. 실제 사례: 말로 쓴 워크플로우가 실행된다 예시: 이걸 그대로 Claude Code에 넣으면,필요한 쿼리 작성부터 엑셀 생성, 저장까지 자동으로 실행해줍니다….
LlamaIndex를 사용하여 로컬 문서에 대한 개인 QA 애플리케이션을 구축할 수 있습니다. 이 시스템은 문서를 인덱싱하여 사용자의 질문에 실시간으로 응답하며, 모든 데이터는 사용자의 기기에서 개인적으로 처리되어 보안이 강화됩니다. 그러나 이 방식의 한계는 정확도와 데이터 공유의 어려움이며, 더 큰 모델과 최적화를 통해 성능을 향상시킬 수 있습니다.
GPT 액션은 사용자가 OpenAPI 사양을 사용하여 외부 API와의 상호 작용을 정의할 수 있게 하며, 이를 통해 GPT는 데이터베이스, 이메일 시스템 등과 연결되어 다양한 작업을 수행할 수 있습니다. 사용자는 GPT의 가시성을 설정하고, 인증 방법을 선택하여 액션을 구성할 수 있으며, 이렇게 구성된 GPT는 사용자 요청에 따라 API를 통해 정보를 검색하고 응답합니다.