【人工知能】AI悪用か、社長の偽音声で指示 部下に電話、不正送金命じるアーカイブ最終更新 2025/03/21 16:251.幸水 ★???コメントのURLをコピーコメントを通報コメントの削除依頼人工知能(AI)で生成したとみられる偽音声により、社長を装って部下に不正送金を命じた事例が日本企業で起きていたと米情報セキュリティー会社、プルーフポイントの日本法人が19日、明らかにした。3度にわたって企業の幹部に電話をかけ、送金を急がせた。「ボイスチェンジャー」のように、会話をすぐに他人の声に変えるAIが使われたようだ。社長の音声は動画投稿サイトなどに公開されており、AIの学習に利用された可能性がある。プルーフポイント日本法人の増田幸美チーフエバンジェリストは「AIの悪用はこれから増える」と警戒を呼びかけている。プルーフポイントの日本法人によると、2024年11月、あるメーカーの幹部に電話がかかり、社長そっくりの声で「緊急の企業買収事案がある。指定口座に今日中に送金してほしい。弁護士に連絡させる」と指示された。続きはこちらからhttps://news.yahoo.co.jp/articles/5348195015828b041fc662eb9b450e8256a88f9d2025/03/19 13:50:5537すべて|最新の50件2.名無しさんm5hfqコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼アイ アイ マム2025/03/19 13:59:513.名無しさんik6e6コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼こんなことできるんだw2025/03/19 14:01:354.名無しさん5cSqyコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼初音ミク最低だな2025/03/19 14:04:185.名無しさんnwqh9コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼ワンマン社長だったらすぐに送金しないとヤバイから2025/03/19 14:09:036.名無しさんuKQehコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼合言葉を決めておくしかないな「山!」「川!」「穂高!」とか2025/03/19 14:19:457.名無しさんICK0YコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼「ドモアリガット、ミスターロボット」2025/03/19 14:29:068.名無しさんUXQ13コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼と、見せかけて、使い込んだ会社のお金を補填した、とかじゃないよな2025/03/19 14:35:189.名無しさんbShjDコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼バレたらAIのせいにすればオッケー!1人じゃないから♪2025/03/19 14:37:3310.名無しさんwXTbkコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼これは悪用した例だけど好きな歌手の声でサンプリングして歌わなそうな曲や自作の曲を歌ってもらうことができるなw歌手の方も口パク用のレコーディングせずに音源作れるさらにはラジオとかもAIで語れるな2025/03/19 14:41:38111.名無しさんn4JuN(1/4)コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼ボイソナ使ってないよな……?あれ重宝するから潰さないでほしいんだが2025/03/19 14:47:3712.名無しさんlPTFTコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼やっぱハンコ文化は正しかった?😂2025/03/19 14:52:49213.名無しさんh3Jh5コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼つまり、有名人の声であんなことやこんなことを言わせることができるということか?テレビ出てたら学習素材たくさんあるだろうし2025/03/19 15:06:25114.名無しさんsJRNnコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼みんかひろゆきになるもんね2025/03/19 15:21:1615.名無しさんq5soyコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼昔の米国スパイドラマで、日常会話を盗聴録音して繋ぎ合わせて偽の会話を作成するのがあったな。目的のフレーズをしゃべらせるために色々仕掛けるというものだった。ルパンの声色とかコナン君のボイスチェンジャーも古くなったな~2025/03/19 15:28:5916.名無しさんpbYr9コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>10しかも英語はもちろん、中国語やスワヒリ語、あらゆるマイナーな言語にも変換でき声変わりも衰えも寿命もなく永遠に使用し続けることができる声優が絶滅するのももう10年もないだろう2025/03/19 15:35:53217.名無しさんn4JuN(2/4)コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>13音声が記録として残っていれば故人ですら喋らせられるよ2025/03/19 15:37:5118.名無しさんjyPTI(1/2)コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>12ハンコこそ印影から偽物作成できる2025/03/19 15:40:3519.名無しさんn4JuN(3/4)コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>16そうならないように既に販売されている音声学習ソフトの使用は極めて厳しい規制がついているこのソフトを逆アセンブルされた場合は規制を取り払われる危険性がある2025/03/19 15:40:37120.名無しさんjyPTI(2/2)コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>19中国初の学習AIなら甘々じゃね?あるいは広く学習する必要はないのでオンプレで構築して目的の音声専用にするかできないか?2025/03/19 15:49:50121.名無しさん1btfYコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼情報強者にひれ伏せ2025/03/19 15:50:0222.名無しさんgvpXgコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼アリサかよ2025/03/19 17:17:0323.名無しさんn4JuN(4/4)コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>16> しかも英語はもちろん、中国語やスワヒリ語、あらゆるマイナーな言語にも変換できそれは声色と関係ない20年前には既にあった技術だしさらに10年前にはオープンソース化している>>20いや無理音声AIの技術は日本が世界一日本語の話者の音声特性を学習してその人の日本語の発音辞書を作成する技術は今でも日本にしか存在していない今回悪用されたと書かれているのはこの技術複数の特許があるが具体的にどれが悪用されたかは分からない2025/03/19 18:22:4324.名無しさんkop42コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼AI使わなくても、ボイスチェンジャーでできそうな事案2025/03/19 18:41:4125.名無しさんCOA8kコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼書類無しで送金指示とか出せる会社があるんか。2025/03/19 18:50:0726.名無しさんZn3gFコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼ちょっとおもろい2025/03/19 19:09:4127.名無しさん3lKReコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼>>12便利だからな。2025/03/20 05:17:2428.名無しさんTMh88コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼AI詐欺は数年前から起きてるビデオ電話の友人は生成AIだった 中国で8483万円詐欺、その手口はhttps://www.afpbb.com/articles/-/34693522025/03/20 05:21:0329.名無しさんxWEAzコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼社長の声は社員全員知っている顔は写真でしか見たことがない2025/03/20 06:59:2730.名無しさんjT9SXコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼「もしもし?俺だよ俺、社長!」これで騙されたようなもの2025/03/20 09:18:1131.名無しさんdISIrコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼社長の携帯でもないのに対応したのかお金のやり取りは経理課や総務課がやるから幹部にかかってくるのはおかしい2025/03/21 14:57:2732.名無しさんTGKB3コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼AI音声って感情とか乗せれんの?リズムとか言い回しとか違ったりして分かりそうなもんだが。2025/03/21 15:03:2133.名無しさん6B6v7コメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼(CNN) 香港で多国籍企業に勤務する会計担当者が、ビデオ会議で最高財務責任者(CFO)を装った相手にだまされて、計2億香港ドル(約38億円)を詐欺グループに送金する事件があった。2025/03/21 15:04:0934.名無しさんmOjBrコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼一平ちゃんもこの技術を知っていれば...2025/03/21 16:05:4535.名無しさんRBhoJコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼この手の悪用に尽力してるの支那畜なんだよなぁ。2025/03/21 16:14:4536.名無しさんHqztBコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼頭いいな もっと巧妙な手口で増えそうだな2025/03/21 16:20:5537.名無しさんZu9kNコメントのURLをコピーこの ID を非表示コメントを通報コメントの削除依頼むかし風俗店のフロントやってた時に他の店から電話かかってきて「そちらのお店に行きたいというお客様がこちらにお見えになってるんですが」「お手数ですがお迎えお願いします」ってで、ボーイを行かせたらイタズラ電話だったということがあった「え、そんな電話してませんよ」「そんなお客さん来てませんよ」と言われ、無駄足をくらったとボーイにグチられた以来その手の電話は即応せず「いったん、こちらから折り返しますね」と確認を先に2025/03/21 16:25:53
【フジ問題】芸能プロとの会合に「喜び組でも呼んどけ」→女性社員を「喜び組」と呼ぶ 不参加はボーナスに影響も…フジの体質に驚愕「腐り方がやばい」ニュース速報+3961026.82025/04/03 20:05:11
【追加関税】トランプ大統領が “不公平” と強く不満 「日本では自動車の94%が日本製だ、トヨタはアメリカで100万台の外国製の車を販売しているが、日本でゼネラルモーターズの販売はほとんどない」ニュース速報+2777342025/04/03 20:08:25
社長の音声は動画投稿サイトなどに公開されており、AIの学習に利用された可能性がある。プルーフポイント日本法人の増田幸美チーフエバンジェリストは「AIの悪用はこれから増える」と警戒を呼びかけている。
プルーフポイントの日本法人によると、2024年11月、あるメーカーの幹部に電話がかかり、社長そっくりの声で「緊急の企業買収事案がある。指定口座に今日中に送金してほしい。弁護士に連絡させる」と指示された。
続きはこちらから
https://news.yahoo.co.jp/articles/5348195015828b041fc662eb9b450e8256a88f9d
「山!」「川!」「穂高!」
とか
1人じゃないから♪
好きな歌手の声でサンプリングして歌わなそうな曲や自作の曲を歌ってもらうことができるなw
歌手の方も口パク用のレコーディングせずに音源作れる
さらにはラジオとかもAIで語れるな
あれ重宝するから潰さないでほしいんだが
こんなことを言わせることができるということか?
テレビ出てたら学習素材たくさんあるだろうし
のがあったな。目的のフレーズをしゃべらせるために色々仕掛けるというものだった。
ルパンの声色とかコナン君のボイスチェンジャーも古くなったな~
しかも英語はもちろん、中国語やスワヒリ語、あらゆるマイナーな言語にも変換でき
声変わりも衰えも寿命もなく永遠に使用し続けることができる
声優が絶滅するのももう10年もないだろう
音声が記録として残っていれば故人ですら喋らせられるよ
>>12
ハンコこそ印影から偽物作成できる
そうならないように既に販売されている音声学習ソフトの使用は極めて厳しい規制がついている
このソフトを逆アセンブルされた場合は規制を取り払われる危険性がある
中国初の学習AIなら甘々じゃね?
あるいは広く学習する必要はないのでオンプレで構築して目的の音声専用にするかできないか?
> しかも英語はもちろん、中国語やスワヒリ語、あらゆるマイナーな言語にも変換でき
それは声色と関係ない
20年前には既にあった技術だしさらに10年前にはオープンソース化している
>>20
いや無理
音声AIの技術は日本が世界一
日本語の話者の音声特性を学習してその人の日本語の発音辞書を作成する技術は今でも日本にしか存在していない
今回悪用されたと書かれているのはこの技術
複数の特許があるが具体的にどれが悪用されたかは分からない
便利だからな。
ビデオ電話の友人は生成AIだった 中国で8483万円詐欺、その手口は
https://www.afpbb.com/articles/-/3469352
顔は写真でしか見たことがない
これで騙されたようなもの
「そちらのお店に行きたいというお客様がこちらにお見えになってるんですが」
「お手数ですがお迎えお願いします」
って
で、ボーイを行かせたらイタズラ電話だったということがあった
「え、そんな電話してませんよ」
「そんなお客さん来てませんよ」
と言われ、無駄足をくらったとボーイにグチられた
以来その手の電話は即応せず「いったん、こちらから折り返しますね」と確認を先に