[Colab] 나만의 ChatGPT 만들기 (100% 무료)

728x90

Colab 복사용 ←클릭 후 복사해서 사용해 주세요.

🎯 text-generation-webui는 Github에서 제공되며, 로컬 PC에서 파이썬 등을 통해 실행할 수 있습니다. 그러나, PC 사양이 낮거나, 설치에 익숙하지 않지만 자신만의 ChatGPT를 경험해보고 싶은 분을 위한 글입니다.

📓 Google Colab의 장점

무료로 GPU를 사용할 수 있습니다.
노트북 공유가 용이합니다.
별도의 설정 없이 머신러닝 라이브러리를 사용할 수 있습니다.
Google Drive와 쉽게 연동할 수 있습니다.

*전공자가 아니라면 파이썬 설치, 라이브러리 설치에서 막혀 코딩공부를 포기한 경험이 있으리라 생각한다. 이럴 때 Local PC에서는 주피터 노트북을 주로 사용하는데, 온라인에서 사용가능한 주피터 노트라고 생각해도 좋을 것 같다.

**Google Colab 설치 및 자신의 드라이버에 복사본 만드는 법을 모른다면 아래 > Toggle을 펼치면 정보가 있으니 참고 바랍니다.

(토클 눌려주세요) Google Colab 설치 방법

1) Google Drive → 새로 만들기(New) 클릭

2) 더 보기 (More)를 클릭 (이미 설치를 했다면 Google Colaboratory 확인 가능

3) (만약 설치 안했다면) 아래 하단에 연결할 앱 더 보기(Connect More apps) 클릭

(토글 눌려주세요) Colab 복사본 만들기

: 왼쪽 상단 파일 → Drive에 사본 저장

🤖 나만의 ChatGPT 만들기

1. Colab을 복사 후 실행

실행 방법 :

1) 런타임 → 모두 실행

2) 단축키 Ctrl + F9

2. Public URL 클릭하기

연결이 끊어 질 수 있기에 처음 Cell 실행 후 나오는 음악을 실행해 둡시다.

3. TextGen 사이트

가정 처음에 보이는 화면

Model 다운로드 및 로드 방법 (Hugging Face)

: 오른쪽 Download 에 모델명을 복사 붙여 넣기 한 이후에 Download를 눌리면 자동으로 다운로드가 됩니다.

(다운로드한 이후) 새로고침 → 모델선택 → 로드(Load) → 로드 성공 메시지 확인

Instruction Template 설정

: Parameters → Instruction Template (모델마다 설정 변경)

Your Role : Be my English Teacher. I'm a ESL student. Your Answer : summarize English Article in both English and Korean with bullet Points

Your Role : Be my English Teacher. I'm a ESL student. Your Answer : Teach more than 3 English Expression & Vocabulary (Definition and Examples) with order list

Instruct 설정 후 아래 mode 설정 변경

도구는 빠르게 발전하고 진화하고 있습니다. 앞으로는 우리가 무엇을 하고 싶은지 명확하게 파악하는 것이 중요할 것입니다. 이 도구를 어떻게 우리 생활에 활용할지 고민하고, 각자의 방식으로 가공해서 사용할지 생각해 보시길 바랍니다.

참고 자료

https://github.com/oobabooga/text-generation-webui

Models - Hugging Face