人工知能＠ふたば
[ホーム]
[掲示板に戻る]
レス送信モード
おなまえ
E-mail
題　　名
コメント
添付File []
削除キー(記事の削除用。英数字で8文字以内)
  • 添付可能：GIF,JPG,PNG,WEBM,MP4. 8000KBまで. 現在29人くらいが見てます.
  • スレッドを立てた人がレスを削除してスレッド内のみアク禁にできます.
  • メール欄に「id表示」と入れてスレッドを立てるとid表示にできます.
  • メール欄に「ip表示」と入れてスレッドを立てるとip表示にできます.
  • 削除依頼が閾値を超えるとidを表示します.
  • 生成系AI,ChatGPT,Stable Diffusion,自動運転など
  • 管理人への連絡は準備板 ご意見へ. 削除依頼は記事番号を押しdelを押して下さい.
  • スマホ・携帯ふたば入口 この板の保存数は20000件です. 規約
  • 新しい板: 人工知能 ZOIDS
  • カタログ 新順 古順 多順 勢順 見歴 履歴
画像ファイル名：1744127954547.png-(7487 B)
7487 B無題Name名無し25/04/09(水)00:59:14No.112187そうだねx2 8月22日頃消えます
ローカルLLMスレ
ロールプレイとか小説書かせて遊んでるとしあきいる？
削除された記事が2件あります.見る
…1無題Name名無し 25/04/15(火)16:32:00No.113071そうだねx4
とりあえず日本語で使えるモデルまとめてくれてるサイト貼る
https://local-llm.memo.wiki/d/%a4%aa%a4%b9%a4%b9%a4%e1%a4%ce%c6%fc%cb%dc%b8%ec%c2%d0%b1%fe%a5%ed%a1%bc%a5%ab%a5%eb%c2%e7%b5%ac%cc%cf%b8%c0%b8%ec%a5%e2%a5%c7%a5%eb#
…2無題Name名無し 25/04/16(水)09:42:35No.113158そうだねx1
>とりあえず日本語で使えるモデルまとめてくれてるサイト貼る
Ollama出た直後ぐらいからずーっと新モデル出るたびにまとめ続けてる謎の人……
困民救済の御助人にでもなろうつもりなのか
…3無題Name名無し 25/04/16(水)15:38:12No.113177そうだねx1
ChatGPTとかgrokとかにできないことができたりするん？
…4無題Name名無し 25/04/16(水)19:41:44No.113231+
昔は脱獄に悪戦苦闘しなくてもほぼ検閲なしのモデルがあるってのがメリットだったけど簡単に何でもできるGrokとか出てきたからあんまその辺はなくなったな
今は色んなファインチューニングモデルがどんどん出てきてるからそれを試してみる趣味的な要素が強いかも
…5無題Name名無し 25/04/16(水)20:54:47No.113236+
現状は利用上のメリットは本当に何もないよ（1年くらい前だったらあったんだけど）
趣味のレトロカーのチューニング・写真自慢スレみたいな感じ
PCパーツに50万かけても、機能的には優位性ゼロ
…6無題Name名無し 25/04/16(水)21:45:31No.113247そうだねx2
申し訳程度の言い訳すらなく１行目から頭チンポでロリエロだろうがグロだろうが何言っても全力でノッてくれる感覚はまだローカルの特権だと思う
腰を据えてエロ小説書くには性能低過ぎだけど片手でチンポ握りながらエロチャするなら悪くない
…7無題Name名無し 25/04/16(水)23:00:34No.113266+
1行目もなにも、エロいキャラチャットには設定擦り合わせor長文ブン投げの打ち合わせタイムが1ターン目として必ずあるだろう

…ということでエロはわかりあえぬのだ
…8無題Name名無し 25/04/18(金)14:29:00No.113654+
SillyTavernでエロチャット色々やったけど
モデルにもよるんだろうけどエロOKのやつだと恥じらいがなくていかんね
…9無題Name名無し 25/04/22(火)11:47:37No.114381そうだねx2
1行目からロリエロのエロチャできるよ
システムプロンプト書くだけ
fu4924641.txt

エロチャの恥じらいも設定すればできるし、その場で設定変更や指示もできる
…10無題Name名無し 25/04/22(火)12:05:14No.114383+
>No.114381
ローカルにこだわらなくても、1行目からエロできるので、ローカルの特権ないね
…11無題Name名無し 25/04/23(水)11:24:48No.114553+
>とりあえず日本語で使えるモデルまとめてくれてるサイト貼る
ここ助かるわ
ローカルでも画像分析できるらしいのでちょっと試してみる
…12無題Name名無し 25/04/25(金)13:56:53No.114904+
書き込みをした人によって削除されました
…13無題Name名無し 25/04/26(土)21:06:32No.115240+
いろいろなモデルを試してみたけどgemma-3-27b-it-uncensored-i1が一番いい気がするな…
…14無題Name名無し 25/04/27(日)02:33:40No.115372+
ロカール文字生成導入してみたけど
すごいゆっくりで驚いた
あと言葉も少し変だし
文字生成に関してはクラウドの方が全然高性能だなと
…15無題Name名無し 25/04/27(日)10:35:09No.115409そうだねx1
>文字生成に関してはクラウドの方が全然高性能だなと
まあ使えるリソースが全然違うしね
…16無題Name名無し 25/04/27(日)14:57:45No.115433そうだねx1
いまのところエロ最強はGrokか〜
…17無題Name名無し 25/04/28(月)00:12:26No.115589+
>ロカール文字生成導入してみたけど
>すごいゆっくりで驚いた
グラボのVRAMに全部乗る程度のモデルだったら結構速いんだけど
問題はVRAMが小さすぎる事だな…
…18無題Name名無し 25/04/28(月)00:40:42No.115592+
素人にも判り易いASIの実現は下記のようなものですね。
・数学の未解決問題を単独で解決したとき。ミレニアム懸賞問題など。
・物理学の未解決問題を単独で解決したとき。量子重力理論など。
・実証に耐えうる経済学理論を創ったとき。貧富の差や不況を無くせるような。
・恒久平和を実現する国際的仕組みを編み出したとき。
…19無題Name名無し 25/04/28(月)14:33:09No.115684+
NVIDIAが今度一般向けのVRAM容量大きいAI用グラボ出すって聞いたけどどうなんだろう、めっちゃ値段高いんだろうか。
…20無題Name名無し 25/04/28(月)18:56:57No.115696そうだねx1
>NVIDIAが今度一般向けのVRAM容量大きいAI用グラボ出すって聞いたけどどうなんだろう、めっちゃ値段高いんだろうか。
32GBの5090があの値段なの考えるとね…
…21無題Name名無し 25/04/29(火)00:16:06No.115747+
    1745853366957.png-(93336 B)
93336 B
支離滅裂だけどこれはこれで味わい深い
まあでもゆっくり過ぎて自分のタイピングの方が早いレベルだコレ
…22無題Name名無し 25/04/29(火)17:49:39No.116040+
    1745916579408.jpg-(541075 B)
541075 B
KoboldCPP + Gemma 3 12B + SillyTavern
…23無題Name名無し 25/04/29(火)23:56:27No.116171+
>KoboldCPP + Gemma 3 12B + SillyTavern
生成時間がめっちゃ早いけど量子化ってやつ？
…24無題Name名無し 25/04/30(水)03:04:08No.116180+
>No.116171
LLMは、gemma-3-12b-it-qat 量子化 Q4_0で、RTX 4060Ti (16GB)で生成させてます。
…25無題Name名無し 25/05/01(木)01:38:41No.116405+
書き込みをした人によって削除されました
…26無題Name名無し 25/05/01(木)02:09:06No.116411+
返答ありがとうございます
量子化モデルインストールしてみたけど格段に速くなりましたね
文章は相変わらず奇天烈だけどエロ小説のたたき台にはなりそう
…27無題Name名無し 25/05/01(木)09:46:01No.116473+
そのまま小説に使えるレベルの日本語出させるには30B以上は欲しいよな
そういう意味ではQwen3 30B-A3Bは期待してたがQwen2.5の日本語の微妙なのをそのまま引き継いでるっぽいのがな
…28無題Name名無し 25/05/10(土)10:58:42No.118567+
LM Studioのモデル検索で見つけたモデル

mistral-community_pixtral-12b-GGUF
amoral-gemma3-12B-v2-qat-Q4_0-GGUF

12bクラスとしては、割とまともな文章を書く
どちらのモデルも画像入力に対応してるのが大きな特徴
Qwen3 30B-A3Bで拒否されたハードな内容も受け付けた
チャットで遊ぶのには良いかも
…29無題Name名無し 25/05/10(土)13:55:55No.118609+
>No.115684
ソース欲しい
…30無題Name名無し 25/05/10(土)14:03:59No.118631+
個人向けグラボに入るようなLLMモデルってChatGPTとかのWEBサービス系と比べて1/10とか1/100みたいなサイズだから
性能上げるために主目的以外のパラメータは削りまくってモデルサイズ削減してるからね……
日本語なんていうマニアックな言語の情報はいの１番に削られるのでどうしても辛い
…31無題Name名無し 25/05/10(土)14:14:16No.118635+
>No.118609
これじゃないのか？
個人が気軽に買えるような価格じゃないぞ

https://akiba-pc.watch.impress.co.jp/docs/news/news/2011820.html
…32無題Name名無し 25/05/10(土)14:36:34No.118641+
>No.118635
ありがとう
これは高過ぎる
…33無題Name名無し 25/05/11(日)00:47:57No.118865+
24gbのは３０万くらいみたい
https://kakaku.com/item/K0001682019/
…34無題Name名無し 25/05/11(日)00:49:23No.118866+
32gbで５０万…跳ね上がりすぎぃ
https://kakaku.com/item/K0001682018/
…35無題Name名無し 25/05/11(日)01:07:19No.118873+
個人で今のChatGPTとかGeminiレベルのものを動かせるようになるんだろうか…
早くエロエロ小説いっぱい作ってほしい
…36無題Name名無し 25/05/11(日)08:38:04No.118935+
やっぱりローカルLLMに限って言えばMac買ったほうが現実的なんじゃねえかな…
60万以下で128GB手に入るし
あとはまだ出てないから何とも分からんけどDGX Sparkか
…37無題Name名無し 25/05/11(日)15:17:11No.119080+
これみたいなvram増設できるタイプの早く普及してくれないかな
https://gigazine.net/news/20250310-bolt-graphics-zeus-gpu/
…38無題Name名無し 25/05/11(日)19:17:26No.119145+
>これみたいなvram増設できるタイプの早く普及してくれないかな
それだって別に気軽に買えるような値段で出てくるわけじゃないと思うけどね…
- GazouBBS + futaba-