IT_잡담2025. 4. 10. 22:08

ollama에서 제공하는 거대언어모델(large language model, LLM)을 다운로드 할 때 태그를 지정하지 않으면 "latest" 태그(tag)를 가진 모델을 가져오게 된다.  예를 들어 gemma3 모델을 가져오려면 아래와 같이 할 것이다.

# gemma3:latest 다운로드
ollama pull gemma3

태그를 지정하면 해당 태그에 대응하는 모델을 받는다.

# gemma3:12b 다운로드
ollama pull gemma3:12b

ollama 웹사이트의 모델 목록 페이지로 가서 gemma3 모델을 선택해 보면 이 기본 모델 이외에 여러 가지의 태그(tag)가 존재하는 것을 볼 수 있다. 아래의 링크에서 확인 가능

gemma3 model tags

뭔가 이것 저것 복잡한데, 가장 기본적으로 파라메터(parameter) 수와 파라메터 양자화(quantization) 정보를 바탕으로 선택하면 되는 듯하다. 당연한 얘기겠지만 파라메터 수가 많고 양자화된 비트수가 많을 수록 더 우수할 가능성이 높다. 대신 그만큼 메모리를 많이 점유할 것이다.

일단 gemma3 모델 태그를 보면 "latest"뿐만 아니라 "1b", "4b", "12b", 이런 식의 태그를 볼 수 있는데 이것은 모델의 크기를 파라메터(parameter) 개수로 표시한 것이다. "4b"는 4 billion, 즉 파라메터가 40억개라는 뜻이다.

추가적인 내용이 더 있는 태그도 있다. 예를 들면 "12b-it-fp16" 이런 식이다. "it"는 무슨 의미인지 모르겠는데, "12b"는 120억개 파라메터, "fp16"은 파라메터의 정확도가 16비트 부동소수점이라는 뜻이다. 파라메터가 정수(integer)로 양자화된 버전은 q가 붙는다. 예를 들어  "12b-it-q4_K_M"이라는 태그가 있는데 "q4"이므로 4비트 정수로 양자화되어 있음을 알 수 있다. 나머지 부분은 잘 모르겠는데, 어쨌든 태그와 함께 모델이 디스크에서 얼만큼을 점유하는 지도 표시되어 있으니, 사용하는 GPU의 VRAM 크기를 넘지 않는 정도에서 선택하면 되는 듯하다.

일단 "fp16"과 "q8"은 메모리 점유는 "fp16"이 2배 높지만 체감 성능은 별반 차이가 없으므로, 특별한 이유가 있는 것이 아니라면 "q8"을 택하는 것이 나을 것으로 생각된다.

태그를 지정하지 않을 경우 기본으로 받아오는 "latest" 모델은 크기를 비교해 보니 "q4_K_M"인 것 같다. gemma3 이외에 llama3.2, qwen2.5 등에서도 마찬가지인 것으로 보인다. 아마도 파라메터 개수가 같을 때 VRAM 점유 대비 체감 성능이 우수한 지점, 즉 가성비가 좋은 지점이 "q4_K_M"인 모양이다.

728x90
Posted by 반달가면
리눅스2025. 4. 9. 22:41

 

"캐시OS(CachyOS)"라는 리눅스 배포판이 있길래 호기심에 버추얼박스(VirtualBox)에서 가상머신으로 잠깐 사용해 보았다. 캐시OS는 아치 리눅스(Arch Linux) 계열 배포판이다. 일단 공식 웹사이트는 아래의 링크다.

https://cachyos.org/

가장 최신 버전인 250330 버전 iso 이미지를 받아서 설치를 진행해 보았다. 버추얼박스에서는 OS 종류를 아치 리눅스로 선택하고 진행. 라이브 iso 이미지로 부팅할 때 부트 메뉴에서 CachyOS default와 CachyOS nVidia를 선택할 수 있다. 아마도 엔비디아 GPU가 있는 PC일 경우엔 드라이버가 기본적으로 함께 제공되는 것이 아닌가 싶기도.

설치 과정에서도 뭔가 선택하는 것이 좀 더 많다. 부팅하면 자동 실행되는 "CachyOS Hello" 화면에서 "설치도구 실행(lauch installer)" 버튼을 클릭하면 부트로더(bootloader)를 선택하라고 한다. Grub과 Limine이 있는데 뭔지 모르겠어서 익숙한 Grub으로 선택. 리눅스를 사용할 때 늘 그랬듯이 이번에도 영문판으로 선택하고 키보드만 한글로 선택하고 진행했다.

 

특이하게 데스크탑 환경 선택지가 엄청 많았다. GNOME, KDE 플라즈마(Plasma), XFCE 외에도 이것 저것 많았는데 일단 KDE 플라즈마로 선택해서 설치. 이후 설치 과정은 크게 다르지 않았다. 한가지 눈에 띄는 점은 기본 파일시스템이 ext4가 아니라 btrfs다. KDE 플라즈마도 버전 6.3.4로 최신이다. 뭔가 전통(?) 있는 것보다는 최첨단을 지향하는 배포판인가 싶기도.

설치를 완료하고 잠깐 사용해 보았는데, 커널 버전은 6.14이고 디스플레이 서버는 Xorg가 아니라 Wayland를 채택하고 있다. 터미널창을 실행해 보니 기본 shell이 bash가 아니라 fish라는 처음 보는 shell이다. 뭔가 전반적으로 생소하다;;

처음 부팅했을 때 메모리 점유는 약 1.6GB 정도. 별도로 버추얼박스 게스트 확장(VirtualBox Guest Additions)을 추가 설치하지 않아도 가상머신 실행창 크기에 맞게 해상도가 자동으로 조정되었다.

버추얼박스에서 사용한다면 가상머신 설정에서 3D 가속을 활성화하는 것이 좋을듯. 데스크탑 환경이 KDE 플라즈마 최신판(버전 6.3.4)이어서 그런지 모르겠는데, 3D 가속을 활성화하지 않으면 뭔가 반응이 약간 느린 느낌이었다.

영문판으로 설치하고 fcitx5 패키지를 설치해서 한글 입력을 추가했는데, octopi라는 패키지 관리자를 이용해서 진행했다. 어플리케이션 메뉴에서 octopi를 찾아서 실행하거나 터미널창에서 아래와 같이 실행하면 된다. UI는 데비안/우분투의 시냅틱(synaptic) 패키지 관리자와 비슷하다.

/usr/bin/octopi

한글 입력을 위해 설치할 패키지는 fcitx5, fcitx5-hangul, fcitx5-configtool 이렇게 세가지다. 설치를 완료한 후에 KDE 플라즈마 시스템 설정에서 두어가지 작업을 해 주면 된다. 먼저 Keyboard -> Virtual Keyboard 항목으로 가서 "fcitx5" 선택한다. 그리고 나서 Input Method 항목으로 가서 "Add Input Method" 버튼을 클릭해서 "Hangul"을 추가한다.  로그아웃했다가 다시 로그인한다.

리눅스 민트에 너무 익숙해서 그런지 모르겠는데, 캐시OS를 꼭 써야겠구나 이런 생각은 크게 들지 않았다. 최첨단보다는 검증된 안정성을 선호하는 개인적인 취향이기 때문인 측면도 있다. 최신 버전인 6.14 커널을 채택하고 S/W가 전반적으로 최신 버전이기 때문에 최신 하드웨어를 장착한 PC나 노트북에 적합할 것 같기도.

728x90
Posted by 반달가면

선관위, '대선 참관단' 운영…"부정선거 의혹 종식되길"

어제(4월 7일)자 연합뉴스 기사다. 일부 내용을 가져와 보자면 아래와 같다.


중앙선거관리위원회는 7일 선관위원 전체회의를 열어 제21대 대통령 선거 기간에 '공정선거참관단'을 운영하기로 했다.

참관단은 정치 관련 학회들이 주도해 각계각층 인사들로 구성된다. 대선 기간 사전투표, 본투표, 개표 등 과정을 참관할 예정이다.
...
10일에는 투·개표 절차에 대한 이해를 돕기 위해 언론사 대상 시연회를 연다.


선관위의 조치는 예전부터 항상 일관성이 있는데, 검증 가능한 실제 데이터는 절대로 공개하지 않는다는 것이다. 사전투표소의 CCTV를 전부 가리고, IT보안 관리는 엉망진창이고, 친인척들을 채용하는 "가족회사" 수준의 뼈속 깊은 부패의 전통이 있지만, 어쨌든 데이터나 증거는 절대 내놓지 않으면서 오로지 말로만 부정선거는 없다고 주장한다.

4월 10일에 언론사 대상 시연회를 한다는데, 지난 2020년 4.15 총선 이후 부정선거 논란이 일자 그 당시에도 선관위에서 시연회를 했던 바 있다. 그 당시 시연회 모습은 지금도 지역 언론 "안동 데일리" 유튜브 채널에 있으며 아래의 링크에서 볼 수 있다.

https://www.youtube.com/watch?v=rvgJ5Vyuvuk

LG 그램 노트북과 엡슨 프린터 등 상용 장비들을 사용하고 있기 때문에 투표용지 서식 파일만 빼 오거나 직접 위조해서 만들면 누구라도 사전투표용지를 대량으로 출력할 수 있다. 투표지를 육안으로 봐서는 진짜인지 위조인지 알기 어렵도록 하려면 사람의 흔적이 없어야 하므로 절대로 직접 날인을 하지 않고 도장까지 프린터로 한꺼번에 출력한다. 또한 몇장이 발행되었는지도 확인하지 못하도록 일련번호 대신 QR코드를 사용한다. 한마디로 부정선거에 최적화된 방식이라고 할 수 있다.

선관위가 정말로 부정선거 의혹을 종식시키고 싶다면 이번 대선은 최소한 아래의 내용은 지켜야 한다고 생각한다. 투표 과정에서 투표용지에 선관위 직원의 직접적인 개입(날인) 없이 오로지 컴퓨터와 프린터 같은 전산장비로만 진행한다는 것은 투표수를 조작하여 부정선거를 하겠다는 것과 다를 바 없기 때문이다.  

1. 사전투표와 본투표를 불문하고 각 투표소에서 선관위 관리관이 직접 손으로 개인 도장을 투표용지에 날인해야 한다. 투표용지를 프린터로 뽑기만 하고 날인 과정이 없는 이유는 위조투표지를 프린터로 대량 출력해서 끼워 넣을 수 있는 길을 열어 주기 위한 목적이라고 밖에 생각되지 않는다.

2. 사전투표소의 CCTV를 가리지 말아야 한다. 기표소에서 유권자가 누구에게 투표하는지 보일 염려가 있는 CCTV 카메라가 있다면 그것만 가리면 되며, 투표소 입구부터 투표장까지 들어갈 때까지의 CCTV는 그대로 운영되어야 한다.

3. 사전투표일 날짜별로, 그리고 각 투표소별로 매일 각 정당 참관인, 시민 참관인이 보는 가운데 시작부터 종료까지 몇명이 관내 사전투표를 했고 몇명이 관외 사전투표를 했는지 선관위 직원이 큰 칠판에 바를 정(正)자를 써 가면서 직접 투표자수를 세고, 투표가 종료되면 각 투표소별로 몇명이 투표했는지 곧바로 공표해야 한다.

4. 사전투표용지에는 아무도 알아볼 수 없는 QR코드만 있으면 안되고 사람이 읽을 수 있는 일련번호가 같이 출력되어서 어느 투표소에서 투표용지가 1번부터 몇번까지 출력되었는지 알 수 있어야 한다.

이런 종류의 실질적인 방지 조치가 없다면, 참관단이나 시연회나 결국 부정선거 은폐를 위한 작업이라는 생각밖에 들지 않을 것 같다. 선관위는 과연 위의 4개 항목중에 단 한개라도 실천할 수 있을까? 개인적으로는 크게 기대하지 않고 있다. 또 다시 "투표율을 높이고 유권자의 편의를 도모한다"는 식의 온갖 핑계를 대 가면서 위와 같은 종류의 부정선거 방지를 위한 실질적인 조치들을 단 하나도 시행하지 않은 채, "참관단"이라는 그럴듯한 명칭을 주고 사람들을 초대해서 "이 사람들이 봤는데 문제가 없다고 하니 부정선거는 없었다"고 주장하지 않을까 생각된다. 아마도 선거용 통신망은 예전에도 그랬듯이 중국 화웨이 장비가 들어가 있는 LG유플러스가 맡지 않을까 싶다.

물리적으로 불가능한 기괴한 통계분포와 선관위의 희한한 해명과 주장들을 접하면서, 선관위 직원들 중에 최소한의 양심과 사명감이 있는 사람이 정말 단 한명도 없는 걸까 생각했었던 적이 있었다. 그런데 지금은 어느 정도 납득이 되기도 한다. 친인척을 채용하는 비리로 이미 심각하게 부패한 조직에서 무엇을 기대할 수 있을까 싶다.

 

지금의 대한민국 선거관리위원회는 사실상 국가를 팔아먹어도 아무 느낌 없는 반역자들과, 심각하게 잘못되었다는 것을 알고 있지만 개인적 불이익이 두려워 어쩔 수 없이 입을 다물기로 작정한 겁쟁이들과, 어차피 월급 안 밀리고 나오니까 문제가 있는지 없는지 알 필요도 없고 굳이 알고 싶지도 않은 전형적인 복지부동 공무원 스타일의 실무자들이 바글거리는 그런 곳이 아닐까 생각해 본다.  

안타깝지만, 대한민국의 주권이 국민으로부터 나온다는 명제는 이미 무너져 있는 것 같고, 대한민국의 주권은 결국 선거 결과를 미리 결정하고 그에 맞춰서 데이터베이스를 조작하고 가짜 투표지를 인쇄하여 집어넣는 자들, 그리고 그들이 편리하게 이런 작업을 진행할 수 있도록 투개표 과정을 최대한 허술하게 운영하는 선관위로부터 나오는 것이 아닌가 싶다. 

 

국민 개개인이 이 문제에 관심을 가지고 목소리를 내지 않으면, 국민주권은 돌아오지 않을 것이다.

728x90
Posted by 반달가면

 

나 자신이 기독교인은 아니기 때문에 기독교계의 내부 분위기라던가 그런 것들은 솔직히 전혀 모른다. 그러나 성경을 읽어 보았기 때문에 - 기독교인들의 사고방식과 성경의 내용이 합치한다는 전제하에 - 그 내용을 기반으로 짐작해 볼 수는 있을 것 같다. 지금까지 좌우 이데올로기 대립에서 적어도 외연적으로 볼 때 좌파의 주축은 사회주의자들이고 우파의 주축이 기독교인들이라는 것 정도는 누가 보아도 눈에 띌 것이다. 

일단 시작부터 양쪽이 대척점에 있다는 것이 자명해 보이긴 한다. 사회주의는 이상주의와 휴머니즘 같은 그럴 듯한 용어로 표장하고 있지만 그 뿌리는 마르크스-레닌 주의에 있고 기본 전제 자체가 무신론과 유물론이다. 따라서 종교 자체를 배척한다. 꼭 기독교가 아니라도, 좌파를 지지하면서 종교인이라는 것은 일단 모순인 것처럼 보인다. 아마도 이들은 진짜 종교인이 아니거나 진짜 좌파가 아니거나 둘 중 하나일 것이다. 어쨌든 하느님을 믿는 기독교인이 종교를 배척하는 사상에 반대하는 것은 어찌 보면 당연하다.

성경중 상당히 길이가 짧은 축에 속하는 "Ephesians(에베소서)"의 일부 내용을 보면, 물질주의, 남녀평등, 계급투쟁과 같은 것들과 180도 반대되는 얘기를 하고 있음을 볼 수 있다. Ephesians는 폴(Paul)이 에페수스(Ephesus)에 있는 교회에 보낸 편지다. 일부 내용을 여기에 의역해 본다. 


For this you know, that no fornicator, unclean person, nor covetous man, who is an idolator, has any inheritance in the kingdom of Christ and God. Let no one deceive you with empty words, for because of these things the wrath of God comes upon the sons of disobedience. (Eph 5:5~6, NKJV)

당신들이 알다시피, 성적으로 문란한 자, 깨끗하지 않은 자, 탐욕하는 자는 우상숭배자이며 이들은 그리스도와 하느님의 왕국을 절대로 받을 수 없습니다. 이런 것들로 인하여 하느님께 불복하는 자들에게 하느님의 분노가 올 것이니, 그럴 듯한 거짓말에 속지 마십시오.


Wives, submit to your own husbands, as to the Lord. For the husband is head of the wife, as also Christ is head of the church; and He is the Savior of the body. Therefore, just as the church is subject to Christ, so let the wives be to their own husbands in everything. Husbands, love your wives, just as Christ also loved the church and gave Himself for her, that He might sanctify and cleanse her with the washing of water by the word, that He might present her to Himself a glorious church, not having spot or wrinkle or any such thing, but that she should be holy and without blemish. So husbands ought to love their own wives as their own bodies; he who loves wife loves himself. (Eph 5:22~28, NKJV) 

아내는 주님께 순종하듯이 남편에게 순종하십시오. 그리스도가 교회의 수장(首長)인 것처럼 남편은 아내의 수장입니다. 또한 그(그리스도)는 육신의 구원자입니다. 그러므로, 교회가 그리스도에게 순종하듯이 아내는 모든 일에서 남편에게 순종하십시오. 남편은 그리스도께서 교회를 사랑하셔서 자신을 희생하셨듯이 아내를 사랑하십시오. 그(그리스도)는 그녀(교회)를 깨끗하게 하고자 말씀으로 씻어주셨으니, 그렇게 하여 흠이 없고 거룩하고 영광스러운 교회를 만들기 위함입니다. 그러니 남편은 자신의 육신처럼 아내를 사랑해야 합니다. 아내를 사랑하는 것이 곧 자기 자신을 사랑하는 것입니다. 


Childrens, obey your parents in the Lord, for this is right. "Honor your father and mother", which is the first commandment with promise: "that it may be well with you and you may live long on the earth." And you, fathers, do not provoke your children to wrath, but bring them up in the training and admonition of the Lord. (Eph 6:1~4, NKJV)

자식은 주님 안에서 부모에게 순종해야 하니, 이것이 올바른 일입니다. 약속과 함께 있는 첫번째 계명이 이것입니다. "너의 어머니와 아버지를 공경하라. 그렇게 함으로써 너에게 좋을 것이고 이 땅에서 장수할 것이다." 그리고 아버지는 자식의 분노를 돋구지 말고 주님의 경고와 훈육 안에서 자식을 키우십시오.


Bondservants, be obedient to those who are your masters according to the flesh, with fear and trembling, in sincerity of heart, as to Christ; not with eyeservice, as menpleasers, but as bondservants of Christ, doing the will of God from the heart, with goodwill doing service, as to the Lord, and not to men, knowing that whatever good anyone does, he will receive the same from the Lord, whether he is a slave or free. And you, masters, do the same things to them, giving up threatening, knowing that your own Master also is in heaven, and there is no partiality with Him. (Eph 6:5~9, NKJV)

종들은 마치 그리스도에게 두려움과 떨림으로 진심으로 순종하듯이 주인에게 순종하십시오. 아첨꾼들이 겉으로만 하는 것처럼 하지 말고 사람의 뜻이 아니라 하느님의 뜻을 진심으로 행하는 그리스도의 종으로서 그렇게 하십시오. 종이냐 자유인이냐에 상관 없이 선한 일을 하는 자는 주님으로부터 그와 동일한 보답을 받을 것입니다. 주인 또한 종을 위협하지 말고 마찬가지로 대하십시오. 당신의 주인(하느님)이 하늘에 계신다는 것을, 그 분은 편애하시지 않는다는 것을 아십시오. 


For we do not wrestle against flesh and blood, but against principalities, against powers, against the rulers of the darkness of this age, against spiritual hosts of wickedness in the heavenly places. Therefore take up the whole armor of God, that you may be able to withstand in the evil day, and having done all, to stand. (Eph 6:12~13, NKJV)

우리는 피와 살을 지닌 사람과 싸우는 것이 아니라, [타락한] 권천사들(principalities), 역천사들(powers), 이 시대의 어둠을 지배하는 존재들, 하늘에 있는 사악한 영적인 주인들과 싸우고 있기 때문입니다. 그러므로, 사악한 나날을 견딜수 있도록, 모든 것을 행하고도 쓰러지지 않고 서 있을 수 있도록, 하느님의 전신갑옷을 입으십시오.


내용을 찬찬히 살펴 보면, 소위 "현대적인" 또는 "진보적인" 사고방식이 사실상 기독교와 완전히 반대되는 내용을 표방하고 있으며, 기독교인들은 이러한 흐름의 배후에 타락한 천사들과 악마들이 있다고 인식할 가능성이 상당할 것이라고 짐작할 수 있다. 위의 문구들은 방대한 성경의 극히 일부이지만, 성경의 다른 부분들도 전체적인 내용이 위의 내용과 모순되지 않으므로, 위의 예시를 성급한 일반화로 간주할 수는 없다고 생각된다. 성경 전체를 다 가져오면 좌파 이데올로기에 반대되는 내용이 더 많으면 많았지 절대로 줄어들지는 않기 때문이다. 최소한 내가 읽어본 바로는 그렇다.

다른 종교인들도 결국에 가서는 이 문제를 만나겠지만, 적어도 일부 기독교인들은 성경에 기록된 내용을 택할 것인지 아니면 버릴 것인지 - 즉, 기독교인이기를 포기할 것인지 아니면 버틸 것인지 - 선택해야 하는 상황이라고 인지하고 있는 것 같다. 당연히 모두가 그렇진 않을 것이다. 솔직히 주변에서 본 소위 기독교인들 중에는 교회에도 나가고 스스로도 기독교인이라고 말하지만, 성경을 실제로 읽어본 본 적이 없고 성경에 위와 같은 내용이 있는지 없는지 아예 생각도 하지 않으며 물질주의/남녀평등/계급투쟁에 100% 충성하면서 살아가는 사람들도 꽤 된다. 그러므로, 기독교계 안에서도 위와 같은 내용을 진지하게 생각하는 사람들과 그렇지 않는 사람들 사이에 대립이 있을 가능성도 충분히 있어 보인다.

결론적으로 우리나라에서 벌어지고 있는 좌우 이데올로기 대립은 궁극적으로는 신학적 충돌이고, 핵심은 마르크스-레닌 주의를 신봉하는 무신론자들과 기독교인들의 전쟁이라고 생각된다. 물론 마르크스-레닌 주의자들은 궁극적으로 기독교뿐만 아니라 모든 종교를 파괴하고자 할 것이나, 현 시점에서 이러한 움직임에 대응하여 저항의 최전선에 나선 것이 기독교라고 할 수 있겠다.

728x90
Posted by 반달가면