グラボ無しで動くイラスト生成AIツールつくってみた

[1 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:16:34.336 ID:qnjCIpjf0]

GPU無しのGoogle colabとか、ローカルPCで動く
s://i.imgur.com/S7X9flC.png
s://i.imgur.com/7RnSWOK.png

384x512サイズがGoogle colabで2分ぐらい、ローカルのN100ミニPCで1分ぐらい

おっそいけどそれなりに動く70行ぐらいのpythonコードなんだが、需要あるだろうか？

[2 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:17:29.297 ID:qnjCIpjf0]

需要あるなら公開する

[3 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:18:24.419 ID:OwT7tJUx0]

なんかすごそう

[4 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:19:16.097 ID:9jvzDQUB0]

N100でもそんなに時間かかるんだね

[5 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:19:56.558 ID:L4vFvDz/0]

スマホアプリもjavaで書いてソースコードgitにあげてくれん？
コンパイルはこっちでやるから

[6 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:20:52.305 ID:qnjCIpjf0]

>>4
本当はもっとかかるけど、高速化の工夫してやっとこのスピード

>>5
フルpythonなんだわ

[7 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:21:25.255 ID:gHo6B8Eh0]

それyoutubeで公開してるやつじゃないの

[8 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:22:26.399 ID:qnjCIpjf0]

>>7
わからんけど、自家製
まあ、ありがちなアイデアだから先行者はいるだろうな

[9 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:23:36.543 ID:gHo6B8Eh0]

それどういう仕組みで動くの？
ならなぜほかのシステムにグラボが必要になるの

[10 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:24:44.021 ID:3XFAydfy0]

すげー
GPUありだと速くなるオプションとかはないの？

[11 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:24:52.581 ID:IfBomKc30]

そんなコンパクトに行けるもんなんだ
ソース見てみたい

[12 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:25:00.586 ID:qnjCIpjf0]

>>9
きほん他と使ってるものは同じだよ
グラボ使う設定を切って、CPUで計算させるだけ

[13 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:25:49.283 ID:8zvqESDg0]

他のソフトもCPUオンリーのモードあるし

[14 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:26:07.320 ID:q31ePJso0]

real-esrgun使う動画高画質化アプリケーション作ってmsiかZIP形式で配布してほしい
1500円くらいなら払う

[15 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:26:35.813 ID:qnjCIpjf0]

>>11 よっしゃ待ってました

ソースコードはこれ
s://techiedelight.com/compiler/?27ef

とりあえず試したいなら、google colab上で動かす
s://colab.research.google.com/?hl=ja

1. ノートブックを新規作成をクリック
2. ソースコードをコピペして、ランタイム＞すべてのセルを実行(Ctrl-F9)
3. モデルを読み込むので5分ほど待つ
4. 「Running on public URL: <なんたら.gradio.live>」という表示が出るので、それをクリック

別タブでUIが開くので、そこで遊んでみてくれ

多少でも知識のある人ならこのソースをもとにローカルでも動かせるはず

[16 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:27:42.070 ID:qnjCIpjf0]

>>13
まあ、あるだろうなぁ
LCM搭載して、ちょっと高速化してみたんよ

[17 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:32:09.984 ID:8zvqESDg0]

>>16
どれくらい上がったの？

[18 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:34:29.965 ID:qnjCIpjf0]

>>17
わからんけどLCM無しと比べて10倍ぐらいは速いんでないかな
普通にやったら待ってられないと思う

[19 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:41:02.430 ID:8zvqESDg0]

ちょっと調べてみたがそこそこのCPU積んだPCで1024x1024の画像が1ステップ1分くらいらしいから12分で1枚くらいだな
これは1024x1024にするとどうなるの

[20 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:43:54.996 ID:qnjCIpjf0]

>>19
試してみるけど
まず10分は間違いなくかかると思う

[21 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:47:44.000 ID:8zvqESDg0]

結果待つの辛いやつだこれ
俺の環境でGPUなら1024x1024で1枚13秒位って考えるとやっぱCPUは辛えわ…

[22 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:47:47.969 ID:qnjCIpjf0]

お、10分切るかも

[23 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:48:40.182 ID:mYNPZlog0]

作ってみた言うからソース見てみたけどただのテンプレじゃねえか

[24 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:53:01.108 ID:mmfo5Fbg0]

ツールではないね

[25 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:54:26.290 ID:qnjCIpjf0]

だいたい530secで約9分
これで失敗作出やがったのでがっかり
s://i.imgur.com/CcdK8xa.png

>>21
まあ、そんななんで384x512で遊んでる

[26 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:56:28.279 ID:8zvqESDg0]

1分でも結構待つの辛いだろ…

[27 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:56:54.513 ID:qnjCIpjf0]

>>23,24
まあそんなもん
きほんDiffusersにgradio被せただけ

[28 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:58:14.594 ID:qnjCIpjf0]

>>26
まあそんときゃColabに課金して、"cpu"を"cuda"に変えるだけよ

[29 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 21:59:59.936 ID:d9S1Og8m0]

N100で1分て早くね
最新ハイエンドCPUならグラボに負けないのでは

[30 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:01:46.962 ID:qnjCIpjf0]

>>29
おなじことをグラボでやれば秒で終わるので、それはそれ
あえてグラボ買うほどじゃない人向けやね

[31 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:25:02.871 ID:qnjCIpjf0]

試しにColabのT4+CUDAでやってみたら10秒ぐらいだけど、アップにすると奇形になりやがる・・・
s://i.imgur.com/NK5hEpM.jpeg
縦長768x1024の立ち絵にして8秒ぐらいが適正かなあ

スペック上げると、じゃあ普通のツール使えばいいじゃんって感じになって少し萎える

[32 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:27:23.245 ID:8zvqESDg0]

Pony派生のライトニングモデル使えばもうちょい早くてきれいかも

[33 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:36:19.877 ID:qnjCIpjf0]

んじゃあ
pipe_t2i = StableDiffusionPipeline.from_pretrained("stablediffusionapi/pony-diffusion-v6-xl-2").to("cuda")
pipe_t2i.load_lora_weights("latent-consistency/lcm-lora-sdxl")
これでColab T4行ってみますかあ？

動くかな？この環境で

[34 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:46:45.686 ID:qnjCIpjf0]

メモリ足らんかった残念

[35 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:50:41.594 ID:rv0LtQvu0]

あんまり需要なさそうだけどこういう事できるのさ尊敬する

[36 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 22:56:34.323 ID:qnjCIpjf0]

やはり無いのか需要
貧乏人はおらんのか

[37 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 23:03:49.596 ID:rv0LtQvu0]

>>36
いや多分はじめっからやり方わからんと思うミドルやハイスペもってないやつは

[38 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 23:09:55.319 ID:qnjCIpjf0]

そうそう金で解決するのが合理的よね
本当は

[39 以下、5ちゃんねるからVIPがお送りします 2024/09/21(土) 23:46:23.025 ID:3BBJVMZE0]

面白い試みだと思うし参考になるけど
すまんなRTX3060の12GB使ってるんだ