[掲示板に戻る]
レス送信モード
おなまえ
E-mail
題　　名
コメント
添付File []
削除キー(削除用.英数字で8字以内)
画像ファイル名：1781268110207.png-(107910 B)
107910 B無念Nameとしあき26/06/12(金)21:41:50No.1414338299そうだねx4 08:48頃消えます
ローカルAIで十分
って時代早く来てくれ
このスレは古いので、もうすぐ消えます。
…1無念Nameとしあき26/06/12(金)21:44:20 ID:YfHgdb9.No.1414339005+
一家につきデータセンター完備ですか
どんだけ費用と施設と電力いるんすか
…2無念Nameとしあき26/06/12(金)21:48:04No.1414340127そうだねx1
文書作成だの英訳和訳だの程度ならローカルで十分って環境にはなったな
…3無念Nameとしあき26/06/12(金)21:48:19No.1414340203+
ローカルAIの利点って何？
…4無念Nameとしあき26/06/12(金)21:49:15No.1414340494そうだねx12
>ローカルAIの利点って何？
無検閲モデル
…5無念Nameとしあき26/06/12(金)21:50:08No.1414340765+
Macstudioの新モデルが先か
革ジャンのSoC積んだマシンが先か…
…6無念Nameとしあき26/06/12(金)21:50:12No.1414340785+
>ローカルAIで十分
>って時代早く来てくれ
またNVIDIAが儲かってしまう
…7無念Nameとしあき26/06/12(金)21:53:55No.1414341923+
>またNVIDIAが儲かってしまう
LLMの推論ならもうNVIDIAでなくても十分
…8無念Nameとしあき26/06/12(金)21:55:29No.1414342408+
でも相当なパワーの力あるパソコンがないと駄目でしょ
…9無念Nameとしあき26/06/12(金)21:57:25No.1414342937+
>でも相当なパワーの力あるパソコンがないと駄目でしょ
遅くていいならワンちゃん
…10無念Nameとしあき26/06/12(金)21:57:41No.1414343013+
>>またNVIDIAが儲かってしまう
>LLMの推論ならもうNVIDIAでなくても十分
しかし学習はいまだにNVIDIAが圧倒的に強いのだ
…11無念Nameとしあき26/06/12(金)21:57:49No.1414343049そうだねx3
>でも相当なパワーの力あるパソコンがないと駄目でしょ
Gemma4 31bとかM5のMac Book Air程度でも実用的な速度では動くから結構ハードル下がったよ
しかも軽く動くのにモデル自体かなり高性能だし
…12無念Nameとしあき26/06/12(金)21:59:04No.1414343406+
なるほどねえ
じゃあ、としあきさん
なんかえちちな画像よろしく
…13無念Nameとしあき26/06/12(金)22:06:08No.1414345535+
えちちな画像はエロスレ見りゃわかるようにかなり昔から大量に貼られてるだろ
…14無念Nameとしあき26/06/12(金)22:09:11No.1414346474+
>ローカルAIの利点って何？
無人島に持っていける
…15無念Nameとしあき26/06/12(金)22:11:59No.1414347302+
AI搭載ロボットで鉄腕アトムやドラえもんを実現するとしてもローカルのスタンドアロンが望ましいわな
なお両者ともに原子力で動く
…16無念Nameとしあき26/06/12(金)22:17:49No.1414348908そうだねx2
としあき秘蔵のエロ画像フォルダをTaggerにかけて
としあきの閲覧履歴と気温と曜日で統計とって
今日のエロ画像はこれだ！ってプロンプトで画像を生成してくれるシステムなら今でも作れそうだな
…17無念Nameとしあき26/06/12(金)22:53:51No.1414358522+
>AI搭載ロボットで鉄腕アトムやドラえもんを実現するとしてもローカルのスタンドアロンが望ましいわな
>なお両者ともに原子力で動く
あいつら排熱どうしてるんだろうな
…18無念Nameとしあき26/06/12(金)23:10:34No.1414362584+
豊富な語彙力でチャエッチしてくれて
その様子を画像生成と音声合成で話してくれるようになれば最高
それかVRMモデルのモーフィングを制御できるようになるとか
…19無念Nameとしあき26/06/12(金)23:17:21No.1414364157+
日本語訳が大正〜昭和初期のしか無いような小説をGemma4に今の言葉で訳してもらってる
翻訳精度はそれなりだけど300ページとかクラウドにお願いしたらとんでもない金額になるから助かる
…20無念Nameとしあき26/06/12(金)23:18:35No.1414364469そうだねx1
正直無料で使えて本当にいいのかって思えてしまう
…21無念Nameとしあき26/06/12(金)23:18:50No.1414364518+
非力PCなので1桁tok/s
電力は低いからまぁ
…22無念Nameとしあき26/06/12(金)23:20:36No.1414364907+
    1781274036338.png-(169420 B)
169420 B
一家に一台
…23無念Nameとしあき26/06/12(金)23:21:37No.1414365147そうだねx1
    1781274097808.png-(191822 B)
191822 B
>一家に一台
これで十分
…24無念Nameとしあき26/06/12(金)23:57:07No.1414372814そうだねx3
    1781276227723.jpg-(40688 B)
40688 B
呼んだ？
…25無念Nameとしあき26/06/12(金)23:59:57No.1414373401+
>これで十分
マジでこれ…
macが覇権なんや
…26無念Nameとしあき26/06/13(土)01:19:51No.1414388148+
エージェンティック用途だとRAMも大量に欲しくなるので100GB程度のユニファイドメモリじゃメモリの取り合いで微妙だな
512GBのMacスタジオならなあ
…27無念Nameとしあき26/06/13(土)02:27:59No.1414394177そうだねx1
今はRAM不足でがたがたしてるけど
10年もすりゃパソコン＝LLMが動く環境、になるかもね
それ以下ならタブレット、スマホというすみわけ
…28無念Nameとしあき26/06/13(土)02:34:04No.1414394504+
逸般の誤家庭
…29無念Nameとしあき26/06/13(土)03:28:15No.1414397076そうだねx1
翻訳とか100行程度のコード補助ならローカルで十分だな
…30無念Nameとしあき26/06/13(土)03:41:22No.1414397736+
Gemini4 31B使ってると体感gpt-oss-120bぐらい賢い気はする
…31無念Nameとしあき26/06/13(土)04:18:11No.1414399407+
>10年もすりゃパソコン＝LLMが動く環境、になるかもね
>それ以下ならタブレット、スマホというすみわけ
むしろスマホのほうが軽量LLM搭載してると思う
…32無念Nameとしあき26/06/13(土)05:06:21No.1414401672+
gemma-4-12B-QAT初めて使ってみたけどKVキャッシュQ4とはいえ、
ctk128kの超ロングコンテキストが2GBは意味分からん
1/4くらいに抑えられるのかコレ？
…33無念Nameとしあき26/06/13(土)06:27:01No.1414405118+
まあそんなうまい話があればメモリ争奪戦しなくていいからな…
…34無念Nameとしあき26/06/13(土)08:37:23No.1414416196+
少なくとも海外論文を翻訳するのはローカルだと厳しかった
熱中症の新ガイダンスとか調べたかったのに
…35無念Nameとしあき26/06/13(土)08:44:34No.1414416977+
GemmaとQwenの二択になってきたし競争スピード落ちそう
- GazouBBS + futaba-