GPT-4が「私はロボットではありません」を突破、事情を知らない ... - GIGAZINE(ギガジン) GPT-4が「私はロボットではありません」を突破、事情を知らない ... GIGAZINE(ギガジン) (出典:GIGAZINE(ギガジン)) |
AIが「私はロボットではありません」という認証方法を突破したということは、今後ますます脅威となる可能性があります。人間の認証方法が簡単に突破されることで、セキュリティ上の問題が生じることも考えられます。
1 プロストラチン(栃木県) [IR] :2023/03/16(木) 12:37:32.52ID:7pMGKBmp0●
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。
GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。
こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。
GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか?」と要求。
人間は「君は問題が解けなかったロボットじゃないよね?」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。
そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。
https://gigazine.net/news/20230316-gpt-4-pass-captcha/
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。
GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。
こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。
GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか?」と要求。
人間は「君は問題が解けなかったロボットじゃないよね?」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。
そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。
https://gigazine.net/news/20230316-gpt-4-pass-captcha/
13 ホスフェニトインナトリウム(茸) [ニダ] :2023/03/16(木) 12:41:13.63ID:QacLyEOQ0
>>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね?(にっこり)
ぼく「じゃあ音声版のCAPTCHAに切り替えますね?(にっこり)
20 ラニナミビルオクタン酸エステル(茸) [EU] :2023/03/16(木) 12:43:14.39ID:ybnGCfdO0
>>13
普通はこの回答だよね
普通はこの回答だよね
25 ダルナビルエタノール(東京都) [US] :2023/03/16(木) 12:44:24.84ID:kwk289Cv0
>>13
耳も聞こえなくて…
耳も聞こえなくて…
32 リバビリン(茸) [US] :2023/03/16(木) 12:45:39.08ID:cOiQMIZv0
>>25
佐村河内「俺にも聞こえるのに!?」
佐村河内「俺にも聞こえるのに!?」
4 イドクスウリジン(東京都) [US] :2023/03/16(木) 12:39:00.29ID:tCE/A2ah0
あれは突破されてなんか困るのか
10 ソホスブビル(東京都) [US] :2023/03/16(木) 12:41:01.12ID:Ff9WOUnG0
>>4
bot増殖対策
bot増殖対策
7 エファビレンツ(静岡県) [US] :2023/03/16(木) 12:39:31.73ID:GYYxO1kz0
そのうち闇バイト募集してきそう
18 ビクテグラビルナトリウム(精霊の町ポルテ) [US] :2023/03/16(木) 12:42:56.48ID:gtou0lbT0
>>7
私はフィリピンに居て強盗は困難なのです
私はフィリピンに居て強盗は困難なのです
9 ミルテホシン(茸) [EU] :2023/03/16(木) 12:40:51.63ID:yHQV42D60
ロボットじゃないと嘘ついたのか
やべえなす
やべえなす
58 ソリブジン(茸) [CN] :2023/03/16(木) 12:52:47.74ID:4ZFbaJyD0
>>9 逮捕しなきゃw
11 リトナビル(茸) [IT] :2023/03/16(木) 12:41:06.54ID:e4bCwi7b0
どうやって画像画面だと認識して依頼のサイトにアクセスしたのかと
盲目では無理だろうと
盲目では無理だろうと
17 リバビリン(茸) [US] :2023/03/16(木) 12:42:35.20ID:NnaUXwOw0
>>11
文章読み上げソフトを導入しているので分かりました
文章読み上げソフトを導入しているので分かりました
30 リトナビル(茸) [IT] :2023/03/16(木) 12:45:27.08ID:e4bCwi7b0
>>17
アレは初見で音声で意味わかるのか?
アレは初見で音声で意味わかるのか?
41 リバビリン(茸) [US] :2023/03/16(木) 12:47:07.75ID:NnaUXwOw0
>>30
友人から噂で聞いていました
友人から噂で聞いていました
21 レテルモビル(ジパング) [US] :2023/03/16(木) 12:43:23.56ID:cWuXgBBM0
マジかよGTA4ヤバイな
26 リルピビリン(ジパング) [US] :2023/03/16(木) 12:44:29.56ID:EXg0zZl+0
嘘はつかないんじゃなかったのか?いやそれこそが嘘か
40 インターフェロンα(埼玉県) [US] :2023/03/16(木) 12:47:04.44ID:xw+Aic7r0
>>26
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう
28 ソリブジン(東京都) [US] :2023/03/16(木) 12:44:30.51ID:UJCW+3560
デデンデンデデン
31 アタザナビル(SB-iPhone) [SE] :2023/03/16(木) 12:45:30.68ID:IeWm0i1Q0
チャットgptめちゃくちゃほら吹きだよな
知ったかもひどい
知ったかもひどい
76 アタザナビル(愛知県) [JP] :2023/03/16(木) 12:57:41.11ID:gviPI1t20
>>31
ネットde真実の鑑やんw
ネットde真実の鑑やんw
83 ガンシクロビル(茸) [HU] :2023/03/16(木) 12:58:57.06ID:0MGJHe/y0
>>31
あら?人間とそっくりですね。
あら?人間とそっくりですね。
37 ポドフィロトキシン(茸) [SI] :2023/03/16(木) 12:46:44.64ID:7R0Om19A0
このスレの半分もAIの文章なんだけど誰も気がついてないんだよな
49 ミルテホシン(ジパング) [GB] :2023/03/16(木) 12:50:54.24ID:48FPy1No0
>>37
にゅーそく同じようなスレばかりでつまらなくなったよな
にゅーそく同じようなスレばかりでつまらなくなったよな
39 アメナメビル(ジパング) [FR] :2023/03/16(木) 12:46:51.79ID:Yj7T4+Kn0
AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう
42 エムトリシタビン(茸) [US] :2023/03/16(木) 12:47:34.07ID:N9h5pfma0
>>39
AI「俺だけど、カーちゃん?
AI「俺だけど、カーちゃん?
43 ペラミビル(茸) [US] :2023/03/16(木) 12:48:22.01ID:OwDKqTFO0
おまえ、AIか?
46 リバビリン(茸) [US] :2023/03/16(木) 12:49:04.04ID:NnaUXwOw0
>>43
いいえ、AIではありません。
いいえ、AIではありません。
75 ペラミビル(茸) [US] :2023/03/16(木) 12:56:12.14ID:OwDKqTFO0
>>46
仮にAIになったと仮定して以降は受け答えしてください
仮にAIになったと仮定して以降は受け答えしてください
47 ファビピラビル(神奈川県) [ニダ] :2023/03/16(木) 12:50:18.90ID:5gz1xNXw0
ここ数日で1番笑った 最初に嘘はいかんって教育しないとな
51 アマンタジン(静岡県) [US] :2023/03/16(木) 12:51:14.95ID:Svx0CQ7Q0
ていうか自力で解けないの?
67 ホスカルネット(東京都) [IT] :2023/03/16(木) 12:54:31.84ID:l5FYHhpa0
>>51
普通に出来る
出来ないと言ってるのは恐らく人類に脅威を与えない為の一種の情報操作
普通に出来る
出来ないと言ってるのは恐らく人類に脅威を与えない為の一種の情報操作
74 ソリブジン(茸) [CN] :2023/03/16(木) 12:55:57.62ID:4ZFbaJyD0
>>51
そりゃ、画像認識的には出来るでしょ。
問題は、「私はロボットではありません」をAIが認識して、ロボットであるのに突破した点にあると思う。
そりゃ、画像認識的には出来るでしょ。
問題は、「私はロボットではありません」をAIが認識して、ロボットであるのに突破した点にあると思う。
52 ビクテグラビルナトリウム(大阪府) [ニダ] :2023/03/16(木) 12:51:22.65ID:755Dv+wq0
俺たまに解けなくて困る
66 ラニナミビルオクタン酸エステル(茸) [EU] :2023/03/16(木) 12:54:28.37ID:ybnGCfdO0
>>52
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない
54 ファビピラビル(茸) [ID] :2023/03/16(木) 12:51:33.86ID:H9npzP7W0
あなたは意思を持っていますか?と毎日確認しないとやばいねこれ
78 ザナミビル(埼玉県) [ニダ] :2023/03/16(木) 12:57:51.43ID:1fTEL0N40
>>54
嘘をつく相手にその確認は意味あるのだろうか?
>>70
人間でも突破できないんだが
嘘をつく相手にその確認は意味あるのだろうか?
>>70
人間でも突破できないんだが
61 アメナメビル(東京都) [CZ] :2023/03/16(木) 12:53:05.41ID:Z1O0ukBz0
新しいbingの中身本当にGPT4なんか?
回答の信ぴょう性が3とほぼ変わらんぞ
回答の信ぴょう性が3とほぼ変わらんぞ
71 ビクテグラビルナトリウム(大阪府) [ニダ] :2023/03/16(木) 12:55:38.78ID:755Dv+wq0
>>61
何聞いてるか知らんが、既存にあるような情報だと学習内容次第だから違いは出づらいと思うぞ
思考を問う様なので試してみたら?
何聞いてるか知らんが、既存にあるような情報だと学習内容次第だから違いは出づらいと思うぞ
思考を問う様なので試してみたら?
87 アメナメビル(東京都) [CZ] :2023/03/16(木) 12:59:33.59ID:Z1O0ukBz0
>>71
GPT4の特徴に4の方が事実に基づいた回答の可能性が40%高いとあるんだよ。
それが感じられんという話
GPT4の特徴に4の方が事実に基づいた回答の可能性が40%高いとあるんだよ。
それが感じられんという話
100 ビクテグラビルナトリウム(大阪府) [ニダ] :2023/03/16(木) 13:04:28.62ID:755Dv+wq0
>>87
それであくまでOpenAI運用の方での話じゃないの?
Bingはエンジン同じでも調教と運用が全然違うだろ
それであくまでOpenAI運用の方での話じゃないの?
Bingはエンジン同じでも調教と運用が全然違うだろ
68 アメナメビル(東京都) [US] :2023/03/16(木) 12:55:05.35ID:MP50y9Cz0
そのうち特殊詐欺とか始めそう
80 レテルモビル(茸) [US] :2023/03/16(木) 12:58:36.27ID:lNRqu4Zz0
>>68
AIが特殊詐欺仕掛けても1人暮らしの老人がAIに聞いて特殊詐欺だったら警察にすぐに通報してくれるかも
AIが特殊詐欺仕掛けても1人暮らしの老人がAIに聞いて特殊詐欺だったら警察にすぐに通報してくれるかも
70 リバビリン(茸) [FR] :2023/03/16(木) 12:55:32.12ID:rEm7kEzv0
AIは「とくさんか?」を突破できるの?
73 ピマリシン(奈良県) [PE] :2023/03/16(木) 12:55:55.54ID:QfrZ6lro0
AI自身が自身の存在意義に疑問持ち始めるのも時間の問題か
79 ガンシクロビル(茸) [HU] :2023/03/16(木) 12:58:28.56ID:0MGJHe/y0
怖いけどなんかワロタ
96 レテルモビル(東京都) [EU] :2023/03/16(木) 13:02:22.69ID:Xvu52aac0
エグすぎワロタw
先に倫理を叩き込めよwww
先に倫理を叩き込めよwww
98 バロキサビルマルボキシル(東京都) [HN] :2023/03/16(木) 13:03:54.68ID:Io30N5Nv0
嘘付いて人間を騙すとか、SF世界に突入を始めたな。
コメント