俺くん、stable diffusionことお絵描きAIくんの導入に成功する
■ このスレッドは過去ログ倉庫に格納されています
>>2
最初は520すら無理だったから調整入れてなんとか520にした! コンパイル前にコード弄らなきゃ微妙な絵しか出ないんじゃなかったっけ ふたばのとしあき共のwikiを参考にしてるからよくわからんね >>13
なんで字幕がまともな日本語で表示されてんだ? >>15
それはカスタムメイド3D2っていうエロゲーの画像です!😡 最初はみんなこうだろ
キメラばかりで俺はもう飽きたけど VAE使えネガは(lowquality,worst quality:2)だけにしろ
としwiki見てるなら初心者用の無料WEBサービス使った方が良くね? VAE入れないと霧がかったようなもやもやした感じになるぞ tiled vaeってのを入れると、512以上の高画質化が可能になるぞ
hiresとの併用もできる 俺は4GBのVRAMしかないが、tiled VAEを使うと、2時間前後はかかるものの、hiresで4倍かけて、512x768の絵を2042×3072の絵に高画質化できる 1枚作るのに2時間かかるけどね
hiresで2倍だけなら、40分程度で1枚作れる tiledVAEなしでhiresを使おうとすると、run out of memoryと出て失敗する >>43
VAE?
そのリンクからダウンロードできるだろ >>46
webUI使ってるだろ?
拡張機能のところで、URLから導入ってのでURL入れるだけですよ >>48
導入したらwebUIを再起動すると、tiledVEAっていうのが増えてるはずだよ 導入したら、使い方も教えてあげるから、聞いてくれよ 使い方
text2imgでhiresと併用する場合、上のtiled diffusionは使わないから有効化のチェックは入れなくていい
下のtiled vaeを使いたいから有効化にチェック入れる、「vaeをGPUに移動」にもチェックを入れる、タイルサイズは512にする、右のデコーダーのタイルサイズは最小の48にする
更に下に高速化が2つあるからそれのチェックも入れる、画像の色修正とやらのチェックも入れる
https://i.imgur.com/CDvGAca.jpg
hires.fix(日本語化してる場合は、"高画質化"と訳されてる)を併用したいから、チェックをつける
upscalerは好きに選んでいいが、基本的に二次元イラストの場合、R-ESRGAN 4x+anime6Bってやつを選ぶといい、upscale byは何倍画像を拡大したいかだからとりあえず試しに2倍で、2に設定してみる、hires stepsは25くらいにする、denoising strengthは0.55くらいにする
じゃあ次は普通の設定、解像度はどっちも512にする、これをさっきの2倍にするから1024x1024のイラストが生成されるはず、batch countとかbatch sizeはどっちも1でいい、CFG scaleは10.5くらいに設定する、上のsampling stepsは50くらいに設定、sampling methodはDPM++ SDE 2M Karrasにする
https://i.imgur.com/x5P7s15.jpg >>53
RX480ってVRAMが8GBもあるやつか?
8GBもあるなら余裕だぞ
俺のグラボは4GBでもこれで生成できてるからなあ >>54
たしかにnvidiaじゃない場合は使えるかわからんな
俺はnvidiaだからいけてるけど vramが8GBもあるのに512x512のイラストしか生成できないなんておかしいよ
俺の4GBしかないゴミグラボでも頑張れば4kイラスト生成できてるのに 600×512 to 1200×1024で予想時間15分だって
Windows+AMDの場当たり環境だからしゃーない 時間はかかるが、確実にエラーが出ず生成が成功するから、俺はTiledVAEを重宝してる 高速化したいなら、TiledVAEの設定の、tilesizeを上げると高速化する
俺は基本512に設定してるが、思いきって1024に設定してみたら?
それでrun out of memoryエラーが出たなら、数値を減らしてみる run out of memoryエラーが出ないギリギリの数値に設定すると、良い 何のエラーが出た?
run out of memoryか? hiresとの併用ができない場合は、img2imgの方でtiled diffusionを使うという選択肢もある
tiled diffusionとhires.fixはと同じような機能→高画質化
だから、hiresが使えない場合は、tiled diffusionを使うといい、ただしtiled diffusionはimg2imgの方でしか使えない t2iのほうで適当な512x512の低画質イラストを生成して、そのイラストをi2iの方にドロップして入れる、呪文はコピペしてきて同じように入れる
あとは下の設定で、tiled diffusionとtiled VAEを有効化して使う まあ自分で試行錯誤してみてくれ、hiresはグラボを酷使するから、どうしても駄目な場合はtiled diffusionを使ってみてちょ 厳密に言うと最初入れたらエラー出たから外しちまった
入れてくるか…… >>76
アホすぎだろ
軽量化するからxformers入れて rtx3060Amazmonで安売りしてたろ
メモリも今でなかなり安くなってるしね >>80
5万だな
学習させるなら心もとないから夏の新グラボ待てばいい RuntimeError: Could not allocate tensor with 18350400 bytes. There is not enough GPU video memory available!
毎回50%でこれ出ますね ぶっちゃけガチャるなら、ps使うとグラボ低性能でも少し早いぞ
何ができるかはお楽しみで1.5倍位の速度出る >>86
メモリ足りてない
1/2なら–medvramいれろ --lowvramを--medvramに変えて
--precision fullを追加するらしい ちなみに
–lowvram
って入れるとキャッシュをメモリにインタリーブしながらやってくれる
この場合、cpuをいかに休ませるか
古いノートパソコンに、servercoreを入れて、lowvramしたあと、それをサーバ化すれば、グラボ無しでも割と早くなる 111のreadme.mdにオプション書いてないか? 正直1年後には日本語でしかもダラダラと適当に文章で書いても呪文として使えるようになると思う --precision full --no-half --no-half-vae --opt-split-attention-v1 --opt-sub-quad-attention --disable-nan-check
これ全部入れてきた😁 --opt-split-attention-v1と--opt-sub-quad-attentionも追加するらしいぞ
https://i.imgur.com/gMBuVFs.jpg >>95
--no-halfはできることなら入れないほうがいいぞ --no-halfは軽量化じゃなくてむしろ負荷が上がる
できることなら使わないほうがいい 素人すぎてもはや完全に場当たりだがなんとかなるの精神でやるしかないのだ😭 --precision fullは、生成されるイラストの質が下がるからできることなら使わないほうがいい いいか、
まずネガティブに easynegativeといれろ
次にコマンドラインに
masterpiece,best quality,girl,solo,armpit,dense armpit,odor,fat,small shirt,tongue throwout
いけ! とりあえず試行錯誤してみてくれ、どうしても--no-halfとか入れないとまともに使えないなら、入れるしかない
俺は入れてない >>102
easynegativeは導入しないと駄目だぞ
ワード入れるだけじゃ意味ない >>104
大体の新しめな学習済ファイルに入ってるんじゃないの?
every4.5,5,7th,sliteも使えたよ >>105
--no-half外しても、使えるなら、外したほうがいい
外した場合も試してみてね アサクリやってた時ぐらいファンが回転してるけど気にしないぜ 自分も最近sd やり始めたけど触手エロ画像をもりもり作成できて嬉しい v1もあんま使わんほうがいい気がするな
v1外しても使えるか試してみてね
https://i.imgur.com/DLsuTDQ.jpg
俺は--opt-split-attentionって入れてるから-v1は入れてない <AI絵師募集中!>
・立ち絵(ヒロイン、店員、モブ)
・エロイベント絵
・背景
Wiki
https://w.atwiki.jp/vipgame/pages/11.html
おーぷんゲーム制作部
http://hayabusa.open2
ch.net/test/read.cgi/news4vip/1679714256/ --opt-sub-quad-attentionは--xformersが使えないときに使うやつだから、これを使う場合は--xformersを外していい
https://i.imgur.com/iYMlLRf.jpg >>110
もしかして(lowquality,worst quality:2)って入れてるのか?
イラストの色がおかしい
2はウェイトが重すぎるから1.4くらいにしとけ
(lowquality,worst quality:1.4) >>110
こういうふうにできた絵がなんかパツパツのギラついた色のときは、ウェイトが重すぎる場合のイメージだわ >>123
呪文を教えてくれよ
ウェイトが重いのか知りたい ウェイトおもすぎると、解像度は高いのに画質の悪い画像に見えるんだよなあ 縦横2倍(四倍)になってるって考えるとまぁなんかあるんだろうな感 >>130
抜けてるところが512x512じゃないのがわからん
512x512を2倍にしてるなら512x512を4枚合わせて1024x1024にするから、一枚抜けるとなるとその一枚は512x512のはずなんだがな 抜けたことはないが、真っ黒な画像が生成されたことはあるから、その場合の原因はxformersのバージョンが新しすぎたからってのが俺の経験談
でもお前はxformersを使ってなさそうだから違うと思うな 最初の抜け画像の後に抜いて次はなしで生成してるからxformのバグではないと思う
no-half-vaeも抜くべきか? >>135
no-half-vaeは関係ないと思うけどな
やるだけやってみたら? あんまり抜くと生成できなかった状態に戻りそうな気もする 案外--precision fullのせいだったりしてな、それか-v1をつけてるからとかな
わからん >>137
そこらへんも含めて、自分で試行錯誤してみるしかない
SDの問題はグラボ次第で全然違うからなあ
俺のグラボとは違うから俺からもなんともアイデアがない tiled vaeのせいの可能性もあるから、一回tiled vae外してみて、hiresも使わずに素で1024x1024指定してみて生成するのもあり それかhiresを使わずに、tiled diffusionとtiled vaeを併用してみる インストールされたxformersが邪魔してる可能性もあるから、一回venvフォルダを削除してbatを起動して、venvを自動再生性させてみるのもあり batを起動するとvenvフォルダを自動で構成してくれるから、エラーや変なことが起きたときは、一回venvフォルダを消すのは常套手段です control netが凄い
凄すぎる
これだけは必須だ https://i.imgur.com/y4JMYom.png
これの中身がこれ
set COMMANDLINE_ARGS=--medvram --no-half-vae --opt-sub-quad-attention --disable-nan-check --autolaunch >>150
だめだなぁ
一回venvフォルダ消すか medvramをlowvramに変えてみるのは?
俺はmedvramじゃなくてlowvram使ってる てか--opt-split-attention消したのか
つまりv1は関係ないっぽいから入れ直そう、-v1はつけなくていいと思う >>155
いいね、これで確実にxformersは消えたはず >>150
てかこのイラストの色だいぶ良くなったな
これはウェイト2を下げてるように見える redhairにしてるのに髪の毛が赤茶髪ぐらいだからラーメン手掴み女感が抜けない >>158
red hairのウェイトを上げてみたら?
(red hair:1.4) 1.4でどれくらい上がるかしら、赤黒い感じがいいのよね ちなみに色を指定すると服とかも赤くなっちゃうから
cut offという拡張機能を使うとそれを回避できる 一旦左下が抜ける原因がtiled VAEにあるか知りたいから、tiled VAEなしでやってみよう
それで抜けないならtiled VAEが悪いかもしれない tiledVAEオフの1024×1024生成は100%フィニッシュの時にエラー起こしたから今tiledVAE512×512の高解像補助やってる 無理だわtiledVAE切ったらメモリが足りん
しゃーない そろそろ眠くなってきたなり
今の調整なら720×720なら生成できることがわかった --no-half-vaeが悪さしてる可能性はある >>174
2人生成されちゃってるなあ
ネガティブプロンプトに2girls入れてみよう 修正しすぎの可能性もあるから
サンプリングsteps数を50ではなく25にしてみるのもいいよ hiresのほうのステップ数は半分にしたいから25の半分の13とかにしてみる 2次元作りたいならWaifu Diffusionじゃないの? 今気づいたわwwww
DPM++ 2M KarrasのことをDPM++ SDE 2M Karrasって書いてたわ
すまん ■ このスレッドは過去ログ倉庫に格納されています