전 감자이다 3.2가 나왔습니다 라마 3.1 나온지 얼마 안 된 거 같은데 기능을 업그레이드해서 나왔는데요 이제 우리의 관심사는 이걸 어떻게 설치하느냐 이거거든요 여러 가지 설치 방법이 있지만 제가 볼 때 현재 가장 쉬운 방법은이 방법입니다 구글에서 MST MCT 발음을 어떻게 해야 될지 모르겠는데 저는 그냥 스티 이렇게 할게요 스를 내 노트북이나 맥북에 설치하고 그 안에 라마 3.1을 설치하는 방법입니다 다운로드 MCT 클릭을 하면 여러 가지 종류가 있는데 아마 대부분 윈도우 쓰실 거니까 AMD 디냐 GPU 선택해 주시면 될 것 같습니다 대부분은 여기 선택하시면 되고요 맥 같은 경우에는 애플 실리콘이 있습니다 저는 지금 맥이 요놈을 다운로드 하도록 할게요 스의 용량은 대략 223m 정도 네요 자 다운로드 받았으면 설치해 주시고요 자 이제 설치 후 실행을 했고요 깔끔한 UI 나옵니다 여기에서 좌측 하단에 로컬 AI 모델이라고 있는데요 요놈을 클릭하면 자 요렇게 나오는데 여기서 스타트 누르면 요런 화면이 뜹니다 여기에서 우리가 원하는 라마 3.2
요놈을 다운로드 받으면 되고요 이게 일반 PCS 쓰는거다 보니까 2빌리언 모델을 양자화 한 모델을 가지고 왔고요 혹시 여러분들 중에 올 라마 같은 곳에서 모델을 직접 가져오고 싶다 이런 분들은 여기 브라우즈 앤 다운로드 온라인 모델 눌러서 여기서 가져와 주시면 되는데 여기 보시면 라마 3.2 아고 있죠 라마 3.2에 있는 모델 중에 여러분들이 원하시는 거 선택해 주시면 됩니다 전 뭐이 정도까지는 열심히 안 쓸 거라 그냥 스에서 제공해 주는 라마 3.2 버전 다운로드 받도록 하겠습니다 자 요렇게 다운로드가 되기 시작을 합니다 용량이 많이 줄었더라구요 자 그리고 혹시 다운로드 받기 전에 기본 세팅을 좀 바꾸고 싶다 요런 분들은 좌측 상단에 로컬 AI 세팅이 있는데 이곳에 어떤 디렉토리의 모델을 다운로드 받을 거냐 등을 선택할 수가 있습니다 모델 디렉토리를 제외하고는 여러분들이 수정하실 건 없을 것 같고요 제너럴의 보면은 다크 모드 할 거냐 라이트 모드 할 거냐 뭐 요런 거 정도 세팅을 해주면 면 될 것 같습니다 그러면 설치 다 하고 올게요 자 이제
설치가 완료되었습니다 용량이 2기가 밖에 안 되니까 기존의 라마 3.1에 비해서는 굉장히 빨리 다운로드 받는 것 같습니다 자 이제 우측 상단에 x 버튼 누르고요 그리고 좌측 상단에요 네모 박스 빙빙 돌아가는 거 있잖아요 요거 클릭을 하면 이렇게 나옵니다 여기에서 제가 하이라고 하면네 이렇게 제 답변이 나오고요 한국말도 되나 해 볼까요 너는 이름이 뭐야라고 하면 오 일단 한글은 많이 깨어지는 어 그래도 속도가 굉장히 빠르네요 그러면 제가 가지고 있는요 프롬프트를 복사해서 실행을 한번 해 보면 속도는 빠른데 영 한국어 실력이 별로네요 그래서 디플레 번역을 해서 이제 영어로 넣어 보면은 와 일단 눈에 띄는 건 속도가 진짜 빠르다 이고요 그리고 뭐 내용은 대충 봤을 때 그냥 보통 수진입니다 나쁘지 않다 그래서 라마 3.
2는 스로 설치하시면 좋을 것 같고 제가 영어로 언제까지 데이터를 학습했는지 물어봤더니 2023년 12월까지 데이터를 학습했다고 합니다 제가 라마 3.2는 좀 더 써보고 여러분들께 말씀을 드릴게요 일단은 라마 3.2는 제 개인적으로 스에서 설치하 가장 쉽고 빠른 길이라는 말씀을 드리면서 마치도록 하겠습니다 감사합니다 [음악]
