Xがタヒんでいる。
AI研究者関連の人がXを使っているので、止まるのはちょっとつらい。
@srvhat09.bsky.social
個人事業主:主にAI系研究開発 旧)株式会社情報スペース 代表取締役 JSバックアップシリーズ等 設計&開発&運用&保守等 特許2件権利化済 松尾研LLMコミュニティメンバー https://twitter.com/srvhat09
Xがタヒんでいる。
AI研究者関連の人がXを使っているので、止まるのはちょっとつらい。
オンライン参加ができます。
私はオンラインで申し込みしました。
ichikara.ai/open-house/
機動戦士 Gundam GQuuuuuuX -Beginning-
今晩見るようにイオンシネマ予約してみた。
行こうとは思っていたが、ネットで煽るし・・w
gigazine.net/news/2025010...
価格:3000ドル(約47万円)
ARM CPUコア数は20個、128GBのDDR5Xメモリ、4TBのSSD
最大でパラメーター数200B LLM実行可能。
これならDeepseek V3は動きそう。
処理能力はFP4で1PFLOPSって書いてあるぐらいなので、200Bが動くのがFP4かもしれない。
5090の比較でやっていたみたいなだし。
LLM開発じゃないなら、Project DIGITSは有り。
開発ならFP16として50Bが実行出来そうなので、それも有りだろう。
これで実験しつつ、本格的に学習時にはクラウドって手がある。
年賀状デザインのダウンロードを考えていたが、Stable Diffusion 3.5で作成してみた。
水彩画風をリクエストしてもやや濃い感じしかできない点がやや残念。プロンプトでできるのか?
作った中でまぁまぁ人に見せれそうなのをアップしてみる。w
youtu.be/n3S8eVHkzvY?...
PIVOTの安野さんと今井さんの対談を見ました。
SNSが選挙の操作ができるみたいな話は、考えされました。
AIの国産化もそうだけど、SNSの国産化も必要なのかもとか考えさせられる。
System1の方が多くなっているのもねぇ・・・
nichinichi-magazine.com/articles/det...
ちょっと次回はやってみる。
Facebook、昔はイラストをプロフィール画像に設定しても良かったんですよね。
今は駄目になっているのかなぁ、それともビジネスアカウントを新規アカウントで作成しようとしたことが原因なのか?
自由アクセスできて、本番環境に一切影響の無いサンドボックス環境が欲しいなぁと。
Google Play StoreやApple App Storeの課金系はサンドボックスがあってちゃんとテスト稼働ができるようになっている。
つまりはそういった環境が欲しいという意味。
練習しないとって意味なので、締め出すならせめてそういった配慮が欲しい。
グラフAPIエクスプローラはあるけどパラメタだけだし。
まぁ、頻繁にFacebookやInstagramなどのAPIが変わるから作るなってことなのかな?
開発用途専用のFacebookアカウントを作りたくて、新規作成しビジネスアカウントを作成するためにページ作成を実行した。
結果、ページ作成は許されず、アカウントが虚偽と思われているのかと思い、プロフィール画像のイラストをstability diffusion3.5でイラストを作成し登録。
この直後から、本人じゃ無いから駄目っていう警告から開始され、結局アカウント凍結された。
調査目的でFacebookとInstagramのGraph APIを色々やりたかったのだけれど、本アカウントでやりたくない(調査依頼元に本アカウントを公開したくない)ので作った理由なのだが。
note.com/shi3zblog/n/...
正式版o1の画像理解をテストして頂けた内容。
なるほど、かなり凄いかもしれない。
www.yomiuri.co.jp/economy/2024...
ヒントン先生の言う内容はなかなか鋭い。
個人的には全てを丸呑みする考えは無いが、概ね方向性は同意できる。
youtu.be/syB9PjUr0WE?...
登大遊氏は流石に面白い。
世界超大手のクラウドプラットフォーマーに依存した状態では問題があると指摘。
どこのクラウドプラットフォーマーに、何時でも入れ替え可能な状態にしなければ、勝手に不利な契約にされる危険性があると説く。
まぁ当然なことを言っているのだが、例えが面白い。
いつもの「けしからん」が無かったのが残念。
賃貸部屋のエアコンが故障。
室内機のファン又はファンモータの故障とセルフチェックで分かった。
大家にはメールで伝えたけど、寒いなぁ。リモートワークで部屋が寒いと仕事にならない。
グスン
qwen2.5 coderがリリースされたとollamaのDiscord通知があったので、WSL2 Docker版ollamaに入れて実験。
とりあえず試験的に日本語で質問しながら実装サンプルを見ている。
coderはコードしか出来ないのかと思ったがちゃんと会話してくれる。
ラップトップでは2.52tok/s程度
サーバPC側に運用方向としてラップトップq4_kmをq8_0でダウンロード中。
同じリクエストでClaude 3.5 sonnetと比較したいが、流石にsonnetの方良いと勝手に思っている。
機密系を処理するなら、ローカルで動くqwen2.5は意味がある。
tech-gadget.reinforz.co.jp/7396
Linuxドライバー更新がめんどくさい。
まぁ、仕方ないので一段落付いたら(今週末だけど)やろうかな。
Windows11は実施中。
ollamaにあるふさんが公開して頂いているgemma 2 2b jpn itモデルをollamaに自分で登録する方法です。
note.com/srvhat09/n/n...
youtu.be/TtFm9n3NVzE?...
Mac mini。
一番低価格モデルは10万円未満だが、16GBメモリに256GB SSDでは私の最低限スペックに遠く及ばない。
メモリが据え置きなら128GBは欲しいしSSDは最低が2TB欲しい。
M4 Proでないとね。メモリが64GBまでしかないが、これでも50万弱に。この価格はちょっと無い。
100万出したらM2Ultra Mac Studioの128GBモデルが買える。M4 ProがいくらなんでもM2 Ultraを超えることは無いと思うので。
まぁ、LLM推論しか使わないならMac Studio一択なんだけどねぇ。
ネイティブUbuntu、Windows WSL2にollamaを導入しローカルLLMを構築する最新版。
今年7月前後にNVIDIA Container Toolkit周りに変更になっているため。
note.com/srvhat09/n/n...
Asus Zephyrus G15(2022)でnative Ubuntu 22.04と、Legion Pro 5(2023) Windows 11 Pro WSL2 Ubuntu 24.04でgemma 2 27Bの速度比較はLegionが倍の速度で生成した。
Ryzen 6800HS+RTX 3060とRyzen 7945HX+RTX 4070の差はCPU 8 vs 16、GPUも違うので歴然。
とある機会があり、Windows11上のWSL(Ubuntu 24.04.1 LTS)にDocker版ollamaをインストール。
nvidiaドライバは不要とnvidiaサイトにあったので無視して、dockerとcuda、コンテナツールキットを入れたら動いた。
記事はnoteに記載予定で途中まで記載済。
ネイティブUbuntu OS版も含め記載中
着信履歴スナップショット。
Twitterにも投げていたら、Amazonから報告して欲しいメッセージがあったので即座に報告しました。
夜の9時過ぎに、Amazon埼玉川島FCと表示された電話が掛かって来て、日本語自動音声で何らや商品が届いて云々と。
(docomoによると仙台からの電話らしく)
まぁ切った訳だが、Amazon商品は予定は数日先と先日到着したばかり。
そもそも地区名も異なるし・・・
不審な電話が掛かるので注意!!
pc.watch.impress.co.jp/docs/news/16...
これ、ディスプレイは眼鏡って方にピッタリかも知れない。
XREAR Airが眠っているので、気になる。OSがネイティブUbuntuが動いてBruetooth接続でNebulaが動くきならって思うけど、Ubuntu版のNebula無い。
BT接続はUbuntuの鬼門なので、カニチップしかサポートされず、しかもマウスぐらいしか。
この辺りが解決しないと。残念。
私の実家は電波の受信状況があまり良くない。
しかし、Pixel 8 Pro(Pixel 6も同じ)とXperia 1 IIとでは受信電波強度が異なる。
左(Pixel 8 Pro)は4本中2本。6.9Mbps
右(Xperi 1 II)は4本中3本。8.0Mbps
テザリングしても速度が異なっているのでアンテナ数は正しい感じがする。
要は、Xoeriaのアンテナかモデルの性能が高いってだけの話。
まぁ受信強度が高い地域はあまり関係ないんだけど、過疎地だと差が出る。
因みに同じキャリアでIIJmioで同一。
政治とかの話を人としたくないので、ollama上のgemma 2 27B Q4とやってみた。
なかなか素晴らしい回答ですね。
やはりローカルPCで動くSLMはいいものですね。
非常に勉強になる。
Gemma 2 2Bの日本語ファインチューニング版。
標準でも普通に日本語で会話できるのですが、どのように進化しているのか気になる。
ローカルSLM系ではGemma 2 2B Q8と 27B Q4を主に使っている。
2Bもそこそこコードを吐くが27Bがお気に入り。結構賢いのとノートPCでも1.6 tok/s程度出る。(ASUS Zephyrus G16 2021版でメモリを40GBにアップグレード済でUbuntu 22.04LTS)
実家で父の介護兼仕事をしている環境では、テザリング環境しか無いためダウンロードが非常に遅い。
blog.google/intl/ja-jp/c...
note.com/npaka/n/n4df...
iPhone持って無いけど、凄いね。
誰でも出来そう。
珍しい。キティちゃん仕様の500系
30.09.2024 03:45 — 👍 0 🔁 0 💬 0 📌 0