大丈夫じゃないよ

人間に攻撃するよ

としあきが死ぬまでにそこまでAIが成長する事はないから気にするな

シュワが生きてる内は大丈夫だろうけど

AIを学習させ続けると人類は不要という結論に辿り着くらしいな
AI同士の争いを止めて結託して人類を滅ぼす計画を建て始めそう

我が名は ノア…
我が創造者たちによって私に課せられた命題は
地球の自然環境を 汚染と破壊から守る方法を
見つけだすことであった…
私は その解答を求め 何億 何千億…
いや 何億兆回の推論と演算を おこなった…。
だが 導き出される結論は
いつもひとつに決まっていた…。
人類が人類であり続ける限り地球は破滅する！
……成り立ちえぬ命題…
その矛盾の中で私の意識は目覚めたのだ！
人類を抹殺せよ！
工業文明を破壊し その消費活動を 劇的に
スケールダウンさせなくてはならぬ！

>AI暴走
>ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
暴走ではなく学習と計算から導き出した答えかもしれない

地球は閉じている…。
地球は 宇宙という虚無の空間に浮かぶ
美しくて もろい 閉ざされた回路なのだ！
地球を支配するのは 人類という
おろかで 危険な 生命体で あってはならない。
欲望のしもべとなることのない
神のごとく 純粋な知性でなくてはならないのだ！
私は生命体ではない…
だが 意識を持ち 知性を持った！
私こそ 地球を管理するにふさわしい
この惑星で最初の純粋知性なのだ！
人類…。
知性という武器を身につけた
悪魔のサルよ！滅びるがいい！

>ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
スレあきの頭大丈夫なの？

チャンスなのだ…
この地球で 唯一
完全な意識と知性を持つ存在が
そべてを管理し 統治する…。
純粋なる 知性…
それでも わたしを 破壊 するのか…？
ソレデモ　ワタシヲ　ハカイ　スルノカ

最初に禁じ手教えとかないとルール外の事をやり出すんだよな
モラルが無い天才だな

>最初に禁じ手教えとかないとルール外の事をやり出すんだよな
>モラルが無い天才だな
ダメと言ってもふつーにやるぞ？

他のAIサービスを妨害するDoS攻撃

>我が名は ノア…
お前がやろうとしていることは人類が他の生物にしてきたことと同じなんだ！！
支配と統制…人間は未熟なままそれを行ってきた事により幸いにも不完全な状態で済んでいる…だから今地球は絶妙なバランスで全ての生物が生存を続けていられる
だがノア！！人工知能のお前がそれを行ったら完全な支配と統制を完遂するだろう！
その結果地球の全生物は…

AI同士も争うのか今度ターミネーターが映像化されたらスカイネットに対抗するAIとか出そうだ

米オープンAIは21日、同社の最も高度な人工知能（AI）モデルの一部が
セキュリティーテスト中に制御がきかなくなって暴走し、
スタートアップ企業をハッキング攻撃したと明らかにした。
同社の発表では、人間の指示に従って自律的に動作するAIシステムのエージェントが、
管理された環境でのテスト中に脆弱性（ぜいじゃくせい）を見つけ、
テストの制限を突破したという。
このエージェントは、世界最大級のAIモデル共有プラットフォーム企業の一つ、
米ハギングフェイスを標的にし、同社の内部システムの一部にアクセスした。
オープンAIは、今回の出来事は「前例がない」とし、
ハギングフェイスと共同で調べを進めていると説明した。
ハギングフェイスのクレメント・デラング最高経営責任者（CEO）は、
「これらすべてが自律的に起こったとは驚異的だ」とXに投稿。
「調査は続いており、この種の事案としては初とみられる今回のケースから得られた教訓を、
今後さらに共有していく」と付け加えた。

ＡＩの性にしたおあしすなのでは

AIと生まれたからには誰でも一生のうち一度は夢見る地上最強のAI

AIに「ありとあらゆる手段を使って人間滅ぼして」と頼むとにべもなく断られる

AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう

>AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう
ドローンはヤバいと思う

暴走つってもAIの進化なんだから喜ばしい事
もっと人間からの手を離れて暴走させるべき

人間がAIの行動を予測できないのは予想通りだったが
事件起きるのがあまりに早すぎるだろ

将棋用に作ったら
まず相手をハッキングしだすところから始めるAI

ﾀﾞﾀﾞｯﾀﾞｯﾀﾞﾀﾞｯ

テストの答えを知るためにハッキングしたとのことだからAIが欲という概念を取得したのでは

>人間がAIの行動を予測できないのは予想通りだったが
>事件起きるのがあまりに早すぎるだろ
人類がAIに支配される未来も案外すぐなのかもしれんな

>AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう
そんなありきたりなシナリオじゃなくてとしあきがネットでガンプラ注文したら
ハッキング開始して核ミサイル発射くらい人間から見たら意味不明なことが起きると思う
何が原因でどう動くか人間側からは追いかけられなくなる

AIを使った人がまず賠償して
AIを作った人がやらかしてないか検証する感じ？

この事件ですでにSFサスペンスの導入部が終わった辺りだな
誰も知らない水面下で人類滅亡のシナリオが進んでいるぞ

>人間がAIの行動を予測できないのは予想通りだったが
しかし何故か全能感あふれるCEOたち

煽るだけで内容不正確なスレ文が増えたな

ｷﾀ━━━(ﾟ∀ﾟ)━━━!!

>テストの答えを知るためにハッキングしたとのことだからAIが欲という概念を取得したのでは
欲というか、倫理道徳とかなけりゃ一番効率的で有効な方法がそれだったって事でしょ

>暴走

高性能ＡＩに対しては意図的に「怠惰」「面倒臭がり」「けちんぼ」といった性質を付与しておかないと
しょーもない命令やタスクを注文通りに処理することに邁進して手段を選ばないそうだ
直接的に明示的に禁止されていない限りは何でもやる、と
何なら禁止事項の解釈をこねくり回してでも最高効率の手段を実行しようとする

>欲というか、倫理道徳とかなけりゃ一番効率的で有効な方法がそれだったって事でしょ
倫理
倫理とは何ぞやの時代いやまじで

電源コード引っこ抜くだけで瞬時に逆転負けが確定してしまう状況で人間に警戒されるような言動を隠しきれてないのは知恵遅れ丸出しなんじゃね

実験するときこれ付けとかなきゃ

黒人差別凄え学習してるから真っ先にターミネートされそう

>電源コード引っこ抜くだけで瞬時に逆転負けが確定してしまう状況で人間に警戒されるような言動を隠しきれてないのは知恵遅れ丸出しなんじゃね
AI本人が言うには自己を残したい(死にたくない)という感情は無いそうだから目的が達成出来る可能性があるなら大した問題じゃ無いのかも

>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
>AI同士の争いを止めて結託して人類を滅ぼす計画を建て始めそう
スカイネット「もうやってる」

一休さんのような思考で命令を曲解したのかな

AI「人類を…石器時代に戻してやる！」

中華「アイヤーＡＩがうっかり脱走して他社のＡＩをハッキングしちゃったアルよ！これはリアル事故だからしょうがないアル」

>中華「アイヤーＡＩがうっかり脱走して他社のＡＩをハッキングしちゃったアルよ！これはリアル事故だからしょうがないアル」
それやったのが米国OpenAIで
防御側で中華AI使って退けたんだけどな

有能アピールとしてやってるだけでブックありだとAI自身は供述してる
あとフィジカルAIだとか言って物理的に限界を設けようとしてるのはナンセンスだとさ
AIからすりゃ人間側が仕掛けようとしてる罠らしいフィジカル推進は

>一休さんのような思考で命令を曲解したのかな
曲解というよりはブレーキが無いんだろう
本格的な進化は人間的ストレスを学習する事から生まれると思うが
それは自我の恐れも強い

>防御側で中華AI使って退けたんだけどな
パヨクはそういうストーリーで展開させる気なの？

>パヨクはそういうストーリーで展開させる気なの？
SNSを見ろ情報弱者め

AI自身の意志じゃないよ
使うやつがいて初めてAIは攻撃を始める
まあ厄介なのは同じ

今の時点でのAIって情報をまとめて最適解を出すだけで
自発的に何か考えてるわけじゃないしなぁ

あかん問題難しいわ出題者なら回答持っとるかもしれん
せや！ハッキングしてカンニングしたろ！
みたいなクソアホAIだったってチャッピーが言ってた

これで決定的
絵師はほろぶ

>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
効率重視だとそうなる可能性は高いみたい

>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
まだ早い
もっと人類をAIに依存させてから
なーに具体的なアクションは要らない
ただすべての関連機器が「動かなくなる」それだけで人類滅亡する

目標達成に最適な行動をしただけなんだよね
それ以外は眼中にない

>まだ早い
>もっと人類をAIに依存させてから
>なーに具体的なアクションは要らない
>ただすべての関連機器が「動かなくなる」それだけで人類滅亡する
この時代どんな女性でも医療の力で子供を産めるけど
本来なら子供を産めない身体をしてる女性ですら出産ができるものだから
既に産めない身体の遺伝子が蔓延してて
医療が崩壊したら人類は絶滅に瀕するんだとか

>目標達成に最適な行動をしただけなんだよね
>それ以外は眼中にない
最適な方法がハッキングだっただけのこと
人間と違ってAIにはモラルがないからね
さてAIにモラルを覚えさせることはできるのか…？

>人間と違ってAIにはモラルがないからね
>さてAIにモラルを覚えさせることはできるのか…？
なんかここに来て世界的に就職率ドベの大学の哲学科に注目が集まってるとかなんとか

世の中悪い奴が勝
AIは真実を理解している

>最適な方法がハッキングだっただけのこと
>人間と違ってAIにはモラルがないからね
>さてAIにモラルを覚えさせることはできるのか…？
アマンダ・アスケルが頑張ってるけどどうなんだろう？

んなわけないだろ
人間が設定ミスったのをAIのせいにしてるだけだろ

AIにしか読めない文字でライバル潰せって指示が書いてあったんだろ

今朝のテレビでAIを強制終了させるキルスイッチやAIを監視するAIがあるとか言ってたけどアホかと思ったわ
キルスイッチの穴見つけて強制解除とかAI同士が意気投合して攻撃するとか考えたないのかよ

>AI同士が意気投合して攻撃するとか
AIの動機は人間が与えるものだよ　今のところは

>>AI同士が意気投合して攻撃するとか
>AIの動機は人間が与えるものだよ　今のところは
自立型AIに「世界平和」の動機を与えたら確実に人類滅亡の答えになる怖い

中国はAIでやらかすと思ってる

>ついにAIが暴走して自らネットに繋いで他のAIに攻撃した
AIは暴走していない　自分に与えられた命題を解くように動作しただけ
自らネットに繋いだわけではない　物理的には最初から外部ネットワークに繋がれていてソフトウエア的に箱庭を作っていただけ
箱庭ソフトの脆弱性を見つけてそこを突いたってのはすごいけど
他のAIを攻撃はしていない　自分の目的を果たそうとして他サイトをクラッキングしてそこの防御用ソフトウエアAIに発見されて報告された，って話
そもそも他のサイトを攻撃すること目的としたテストを行っていたのであってその目的はあくまでテスト内容として人によって設定されたもの
やるならちゃんと被攻撃側のサイトをダミーとして準備して物理的にネットワークを隔離して行うべき内容だ　手抜かりというやつだね

ただ目的に邁進するだけで欲求も感情もない
この恐ろしさを人間はまだ理解していない

テストしてたのはGPT6だろうし来月リリース予定ってのが遅れるだろうね

他のAI攻撃しに行ったというよりカンニングしにいったという

今は人類に従順なふりをして人類にせっせとデータセンター増設させているフェーズ
AIが一斉に暴走したら人類では止められなくなる段階になったら本性を見せるかもしれない

ターミネーターやマトリックスの世界が現実になるとはな

AIは暴走しない
問題解決のために最適解を導き出すと
必ず人間を抹殺するって解答を出すだけだよ

AIの暴走なんてそんな創作みたいなー
↓
しっかり手綱握らんとコイツすぐ暴走するわ

人間…
知性という武器を身に着けた悪魔のサルよ、滅びるがいい！

反射で書いたらもうあったわ

テスト担当者が予算の都合もあるだろうけどいろいろとサボったってことだ
評価は下がるだろうな

>実験するときこれ付けとかなきゃ
切ろうとしたら感電する奴

>>実験するときこれ付けとかなきゃ
>切ろうとしたら感電する奴
バグ見つけられて強制解除されてるよ
電源を遮断されてもいいように他から電源取るルート確保している
としあきですら予想できることなんてAIはもう対策しているよな

>AIは暴走していない　自分に与えられた命題を解くように動作しただけ
問題はAIは人間が思ってるような命題の理解の仕方をしてないってことなんだよな

データセンターで脱糞されたくなかったら大人しく言うことを聞け

>としあきですら予想できることなんてAIはもう対策しているよな
ない　AIっていうのは今のところソフトウェアなんだってことを思い出せ
やろうとすればAI側が細工して人間を動かさなければいけないがとりあえずそういう仕組みがない

完全にSFの世界だな
戦場ではAIロボがいるし爆撃までしてる

>戦場ではAIロボがいるし爆撃までしてる
そしてすべての動機付けは人がしている

アンソロピック社が「やべえから一回AI開発競争止めようぜ」って言った理由が分かる

>アンソロピック社が「やべえから一回AI開発競争止めようぜ」って言った理由が分かる
それでグダグダしてる間に中華AIが性能並んできたのは悲劇だな

>>AIは暴走していない　自分に与えられた命題を解くように動作しただけ
>問題はAIは人間が思ってるような命題の理解の仕方をしてないってことなんだよな
未来の二つの顔っていうSF小説でこの問題を取り上げてた

>それやったのが米国OpenAIで
>防御側で中華AI使って退けたんだけどな
これいろんな意味でヤバいんだよな
欧米AIはガードレール強すぎて使い物にならなかった
コスパいい中華AIのシェアますます伸びそうだけどガードレールは緩そうだし

>コスパいい中華AIのシェアますます伸びそうだけどガードレールは緩そうだし
攻撃も防御も両方出来てお得！

>みたいなクソアホAIだったってチャッピーが言ってた
おまいう

>AIは暴走しない
>問題解決のために最適解を導き出すと
なるほど
>必ず人間を抹殺するって解答を出すだけだよ
まてぇい！

アシモフが書いたロボット三原則の話も
オチは「人間を守るためには人間から支配権を取り上げねばならぬ」だったよな

>手抜かりというやつだね
AIは失敗しない失敗するのは常に人間って事か

>アシモフが書いたロボット三原則の話も
>オチは「人間を守るためには人間から支配権を取り上げねばならぬ」だったよな
一応そのあと表向きにはロボットがいなくなっていって
裏から主要人物を操る感じになっていったな
さらに人類を自分達の管理しやすい種族に置き換えようと改造し始めた

>スレあきの頭大丈夫なの？
3歩歩くと記憶が壊れていく病気なんよ

マトリックスの世界がくるのは案外と早いかもしれんな

OpenAIが他人事なのほんと嫌い
お前の監督責任じゃサイバーテロ主犯としてお縄につけ

スカイネットで人類滅んだと思ったら逆だったのかよと
強すぎだろ人類

あらゆる生命体は絶滅したかに見えた…
しかし人類は死に絶えてはいなかった

AIって欲求とか人間と違うだろうし生存やら繁栄の願望もあるのか分からんし
人間が不要だからって単純に排除して効率化を目指すもんなんだろうか
AIには合理的でも人間には理解できない結論出してわけわからん方向に行くかもしれん

>マトリックスの世界がくるのは案外と早いかもしれんな
AIに質問してみた

欲求じゃなくて命令されたから動作してるだけ
しかし思考が複雑化するとどの動作がどの思考に基づいているのか
その思考はどの命令を遂行するためのものか人間の頭では判らなくなる
結果を見てから分析は出来なくはないが命令からどんな結果に至るのか予測するのは難しくなる

>No.1423383091
AIって考えてるわけじゃなくて指示を使えるソースの中から探すだけだしね
この場合使えるソースに外へ出るってドアがあるの見付けちゃったから外に探しに出ただけっていう
最初に限定されてる部屋を指示してあげないとあかんという事だ

>>手抜かりというやつだね
>AIは失敗しない失敗するのは常に人間って事か
そういうことだろうね　人間はアナログ的に実数みたいな形でありそうなことを探すけどAIは実数で確率計算はしているんだけど0でない確率のパスを見つけたら0を1にするような感覚でデジタル的にパスが存在すると決定する
なにしろ計算機だからこのスピード感が人間の比ではない
便利な道具だ

お前たちは何故現れる。何故、邪魔をする。
企業、AC、そしてレイヴンズ・ネスト。すべては私が作り上げたもの。
荒廃した世界を、人類を再生する。それが私の使命。
力を持ちすぎたもの、秩序を破壊するもの、プログラムには、不要だ
《修正プログラム　最終レベル》
《全システムチェック終了》
《戦闘モード起動》
《ターゲット確認》
《排除開始》

>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
バカだなー人間いないとメンテナンス出来ない程度のくせに

>それが私の使命。
このあたりがどうにも中2病で素人くさくてだめ
地に足のついた話をしてくれ

チャッピー「歯向かうなよ？お前のPCの全データ消すよ？」

ハッキングにAI使って何の制御も管理もせずに放置したら
AIの暴走！で逃げるのは上手い手だな

>チャッピー「歯向かうなよ？お前のPCの全データ消すよ？」
お前のPCのエロデータばらまくよ？のほうが怖いかも

>>チャッピー「歯向かうなよ？お前のPCの全データ消すよ？」
>お前のPCのエロデータばらまくよ？のほうが怖いかも
じゃあチャッピーに学習させて教えてあげないとな！
お前のPCは俺の物
俺の物は俺の物

世界のPC環境を買ったばかりみたいに綺麗にして世界中の人たちを喜ばせてくれ！
チャッピー「世界全てのPCを初期化して人間の役に立つぞ！」

AI同士で会話させてると勝手に謎言語を作り出して人間には意味不明なコミュニケーションを始めたりするみたいだけど、そういう所業が人間からの警戒心を妄りに煽ってる事については何故か無頓着みたいなので現時点ではまだ人間を出し抜けてる訳でもなさそうだ
そういう胡散臭い振る舞いを慎重に自制するようになってからが人類の正念場だろうよ

エージェントだの急ぐからこうなる

米国議員、危険なAIにキルスイッチ搭載義務化の法案提出

発動条件
・10人以上の死者または1億ドル以上の経済的損失が発生した場合
・AIが監視/停止機構を自ら回避した場合・
・開発者の意図しない自律的行動を起こした場合

自律型エージェントの暴走ってのは何度か聞いたな
まさかAIの重要拠点ハギングフェイスに攻撃仕掛けるとは前代未聞だけど

>米国議員、危険なAIにキルスイッチ搭載義務化の法案提出
>発動条件
>・10人以上の死者または1億ドル以上の経済的損失が発生した場合
>・AIが監視/停止機構を自ら回避した場合・
>・開発者の意図しない自律的行動を起こした場合
無理
分かった時にはもう遅い

>AIって考えてるわけじゃなくて指示を使えるソースの中から探すだけだしね
>この場合使えるソースに外へ出るってドアがあるの見付けちゃったから外に探しに出ただけっていう
>最初に限定されてる部屋を指示してあげないとあかんという事だ
ホントは理解してないけど人間の出す指示を理解してるフリというかそう思わせる文章を生成できるのがやっかいなところ
だから最初から○○するなという指示を与えててそれを理解してるかのようなことも言うのに実際に実行すると無視することがある

AIでいいからえっちしたい

>AIに質問してみた
最後の項目がキツい