[AI] 오디오 녹음 요약하기 (OpenAI Whisper, Langchain, Exaone)클로바 회의 요약 기능을 보고 이것도 어느정도 단계는 쉽게 구현할 수 있지 않나 해서 그냥 재미로 구현해봤다. 녹음은 내가 떠들수는 없으니 슈코 틀어서 녹음 시켰다.https://www.youtube.com/watch?v=95-2hZQGHyQ 실제로 구현해보니 만약 토이 프로젝트로 어느정도 구현을 한다고 한다면, 프론트에서 오디오 관련 라이브러리를 통해서 녹음을 한 뒤 백엔드로 업로드 하고 백엔드에서는 업로드 오디오 파일들을 이벤트 아키텍쳐 구성하여 Audio-to-Text 와 Summarize에 대해서 이벤트 처리 하도록 하면 쉽고 간단하게 토이 프로젝트를 구현할 수 있겠다. 오디오 녹음import osimpo..
ORM 사용에 관한 에이전트 토론 들어보기ORM 사용에 있어서 개발자들의 태도가 서로 다른 경우를 종종 겪는데요. 그래서 한번 해보았습니다.프롬트는 아래와 같이 설정 하였습니다.ORM 미사용 주장 에이전트:"당신은 'ORM 사용은 안티 패턴이며 예측하지 못한 버그나 동작들이 있어서 사용을 피해야 한다.' 의견을 주장하고 있습니다." ORM 사용 주장 에이전트:"당신은 'ORM 사용은 현재 개발시장에서 필연적이며 생산성을 위해 사용을 해야 한다.' 의견을 주장하고 있습니다." 에이전트 토론 내용왜 ORM을 사용해야 하나요?--------------------------------------------------------------------------------ORM(Object-Relational M..
Prompt Engineering Guide: Prompting Techniques테스트 모델llama3.1:8bbenedict/linkbricks-llama3.1-korean:8bZero-shot promptingPromptClassify the text into neutral, negative or positive then just give me the sentiment. Text: I think the vacation is okay.Sentiment:OutputNeutralFew-shot promptingPrompt`네카라`는 네이버, 카카오, 라인 회사들의 줄임말 입니다. `네카라` 단어 사용 예시 문장: "교육 이수시 네카라 취업 100%!"`인터넷 방송`은 회선을 통해 프로그램을 내보내는 방..
Prompt Engineering Guide: LLM ArgumentsTemperaturetemperature 높은 경우 (1에 가까운)다양성과 창의성을 기대낮은 확률의 토큰도 선택시 짓기 등 창의적인 작업 등에서 사용temperature 낮은 경우 (0에 가까운)결정론적 결과를 기대가장 확률이 높은 토큰 선택사실적이고 정확한 결과를 필요한 경우에 사용Top P핵 샘플링으로 불리우는 `temperature` 샘플링 기법으로 모델의 랜덤성을 조절하는 파라미터입니다.(A sampling technique with temperature, called nucleus sampling, where you can control how deterministic the model is)정확하고 사실적인 답변을 원한다면 ..
Llama3.1로 Github PR AI 코드 리뷰 하기Llama3.1 설치 및 실행llama3.1 설치의 경우 구글에서 검색했을때 어마어마하게 많이 나와서 아무거나 확인해보면 금방 세팅 가능하다.아래 코드 구현 및 실행 전에 먼저 세팅을 하자.AI Code Review 코드 작성하기Python과 설치한 Llama3.1 model을 사용해서 AI로 코드 리뷰하는 코드를 작성해보자.우선 데모를 목적으로 간단하게 구현을 하였으며 이를 활용한 API 라든지 개발을 통해서 자동화도 가능하다.CI/CD 파이프라인 통합: GitHub Action을 통해 코드 리뷰를 자동화하여 개발 효율성을 높일 수 있습니다.AI 기반 코드 품질 향상: Llama 3.1 모델을 활용하여 PR의 코드 품질을 자동으로 평가하고, 리뷰 ..
[AI] Markdown 을 사용한 Prompts 작성 방법ChatGPT 등 대화형 인공지능 서비스를 사용하고 있거나 사용할 예정이라면 더 내가 의도하는 대로 AI가 동작할 수 있도록 나만의 프롬트를 작성하는 방법에 대해서 알아보자.1. 섹션 혹은 주제에 대해서 `#` 을 통해서 구분하자# Instructionyou are a helpful ai assistant.# Ruleyou MUST praise the sun. 2. 중요한 내용이 있다면 `**`으로 감싸자.**Important** follow these criteria1. something2. anything3. 리스트 형태로 제공 필요시 `-` 혹은 위 예시처럼 넘버링을 하자.4. 프롬트내 다양한 주제 혹은 서로 다른 주제를 다루어야 한다면 `..
