TOPIC 11
AIを悪用したサイバー攻撃や写真・音声の無断利用、情報漏洩に対して強い警戒感が示されています。利用者からは、サイバー犯罪の厳罰化や、個人情報の無断学習を制限する法規制を国に求める声が上がっています。あわせて、国主導の侵入テストや中小企業への対策費用補助、AI技術を活用した防御体制の整備が求められています。
67件の意見・47件の会話から
“デンマークと日本が今酷いと聞いた。AIにより日本への攻撃が楽になったと。この20年で日本はとても遅れた国になったと思える。”
要約AIの普及によって日本への攻撃が容易になったと聞き、日本のサイバー対策が大きく遅れていると感じている。
この発言を会話の中で読む“その時の友人の態度は気をつけますと言う。軽い態度だったので腹が立ったし、これは訴訟を起こしたらその人のビジネスも廃業に陥るような事態になるのにほんとに信じられなかった”
要約写真を無断利用した友人の態度が軽く反省が見られなかったため、強い怒りと不信感を抱いた。
この発言を会話の中で読む“いろいろな個人情報の登録が不安”
要約AIの高いハッキング能力を知ったことで、個人情報の登録に不安を感じている。
この発言を会話の中で読む“音楽教室を友人が私の写真だけでなく、友人の顧客先である教室の生徒の写真を第三者のLINEグループに流したり。AI生成に使ってしまった。”
要約友人が回答者や生徒の写真を外部のLINEグループに流出させ、AI生成に利用した。
この発言を会話の中で読む“今後、AIの発達により漏えいは増加すると思います。 その際の対応ができるサイトがあれば良いと思います。”
要約今後はAIの発達により漏洩が増えると見込んでおり、被害時に対応できるサイトの整備を求めている。
この発言を会話の中で読む“AI を使った防御力強化の普及”
要約政策として、AIを活用した防御力の強化を普及させてほしいと考えている。
この発言を会話の中で読む“ある日、銀行口座のお金が全てなくなっている等。”
要約AIが進化して普及した際、ある日突然銀行口座の預金が全てなくなってしまうような事態が起きるのではないかと不安を感じている。
この発言を会話の中で読む“このAI時代には致し方ない その使われ方が社会貢献できる使い方がされるのであれば問題ないが、悪意のある方に使われるのは許せない”
要約AI時代における情報流出はある程度やむを得ないと捉えているが、悪意ある用途に使われることは受け入れられないと感じている。
この発言を会話の中で読む“パスコード設定しているから悪用されないとおもいつつ、AIを使った犯行という報道を見て突破されたらどうしようと心配”
要約パスコードを設定していても、AIを使った犯行の報道を見て突破されないか心配している。
この発言を会話の中で読む“mytos並みのものを政府が使えるようにしてください”
要約政府が高度なAIをセキュリティ対策として活用できるようにすることを求めている。
この発言を会話の中で読む“国営生成AIセキュリティ企業作るべき 先行使用権を持つべき 世界的ルールを作るべき 生成AI過剰推進中止 攻撃側有利 防御側不利 攻撃側は資産増加スピードも高い グラボ買って攻撃能力も高まる 防御側は予算の限界がある”
要約攻撃側が有利で防御側の予算には限界があるため、国営の生成AIセキュリティ企業の設立や先行使用権の確保、世界的なルールの策定を求めている。
この発言を会話の中で読む“攻撃側と同じ水準、つまりAIを使った攻撃で侵入テストを行う仕組みを整えてください”
要約AIを用いた攻撃と同水準の侵入テストを企業が受けられる仕組みを、国が主導して整備することを求めている。
この発言を会話の中で読む“毎秒やり方を変えて攻撃し続けるAIに対して、防御側は後手に回らないといけないこと”
要約絶えずやり方を変えて攻撃し続けるAIに対し、防御側が常に後手に回らざるを得ない状況に課題を感じている。
この発言を会話の中で読む“AI開発が激化する中で企業が後手に回ればサイバー犯罪によって私たちの情報は筒抜けになる。個人情報を取得するのに必死で秘匿する技術を磨いてこず規制もしなかった。AIを活用したサイバー犯罪は特別なスキルは要らず組織性と根拠があればできてしまう。”
要約企業が個人情報の取得を優先して保護や規制を怠ってきたため、情報が筒抜けになると懸念している。AIの発展により特別な技術がなくてもサイバー犯罪が行えてしまうと考えている。
この発言を会話の中で読む“悪意を持った攻撃を防ぐためには、「攻撃側」の立場から開発を進めてこそ防御力が上がると思う。”
要約悪意ある攻撃を防ぐには、攻撃側の立場から開発を進めることで防御力を高める必要があると考えている。
この発言を会話の中で読む“絶対的な漏洩や不利益につながらない事への保証があれば助かる 又は与えた情報がどこかで必ず被害が収まるというストッパーがあれば安心できる”
要約情報漏洩や不利益が生じない保証や、提供した情報による被害の拡大を途中で食い止める仕組みを求めている。
この発言を会話の中で読む“私のこの今周りに周りに溢れている音が壊れてしまって、どこのエリアに住んでいるかとか、どんな家に住んでるかとかどんな電車を使ってるとかわかるようになるのを阻止してほしい”
要約音声データや背景の環境音から居住地域などの生活情報が割り出されたり、なりすましに悪用されたりすることを防ぐ対策を求めている。
この発言を会話の中で読む“AIによる常時監視、脆弱性検出、パッチの自動適用を推進するべき。セキュリティ対策に設備投資する際の税制優遇をしても良い”
要約AIを用いた常時監視や脆弱性対応の自動化を進めるとともに、企業のセキュリティ設備投資に対する税制優遇を設けるよう求めている。
この発言を会話の中で読む“高いから使わない、それで漏洩する懸念はChatGPT 各種AIサービスにも同じ課題があるはず。”
要約料金が高いことで利用されず情報が漏洩する懸念は、ChatGPTなどのAIサービスにも共通して存在すると捉えている。
この発言を会話の中で読む“情報漏洩が立て続いていること、AI企業へ情報を無条件に渡すような法律がチームみらいも賛成して進んでいることなど”
要約相次ぐ情報漏洩や、AI企業へ情報を無条件に渡すような法整備が進んでいることに不安を感じている。
この発言を会話の中で読む“AIの適切な利用や悪用防止のルール作り”
要約AIの適切な利用を促し、悪用を防ぐためのルール作りを求めている。
この発言を会話の中で読む“気を付けないといけない 与える情報に気を使わないといけない 安心して質問ができない”
要約AIによる情報収集で個人情報が抜き取られる懸念があり、入力する情報に気を配らなければならず安心して質問ができない。
この発言を会話の中で読む“今後もAIによるハッキングや不正アクセスのリスクは格段に上がると思います。早急なセキュリティ対策を国家レベルで考えるべきです”
要約AIによる不正アクセスの危険性が高まることを見据え、国全体での早急なセキュリティ対策を求めている。
この発言を会話の中で読む“社内で対策や研修を重ねても、それがAIを使った攻撃に通用するのかを確かめる手段がありません”
要約社内で対策や研修を実施しても、現在の体制がAIを用いた攻撃に対応できるかどうかを検証する手段がない。
この発言を会話の中で読む“ソブリンAIが国民のセキュリティ対策を行うように、基本的人権に含めるべきだと思いました”
要約国産のAIが国民のセキュリティ対策を担う体制を整え、それを基本的人権の一部として位置づけるべきだと考えている。
この発言を会話の中で読む“事業者からの個人情報漏洩は常に最新のAIを導入して24時間365日継続して監視すべきだと思う”
要約事業者からの情報漏洩を防ぐため、最新のAIを導入して常時監視を行うべきだと考えている。
この発言を会話の中で読む“AIによる効率的な攻撃の可能性が高いので、防御する側のAI活用を推進して欲しい。自社の防衛の問題点をAIで洗い出し、対応することも大事です。”
要約AIによる攻撃に対抗するため、防御側におけるAI活用の推進や、自社の防衛上の問題点を洗い出して対応することを求めている。
この発言を会話の中で読む“これ正規のai botなのか、そうでないかの判断がむずかしい。”
要約外部からのアクセスが正規のAIボットによるものかどうかの判別が難しく、遮断すべきかどうかの判断に苦慮している。
この発言を会話の中で読む“安心してAI使える環境のせいび”
要約国に対して、安心してAIを使える環境の整備を求めている。
この発言を会話の中で読む“AIが悪用されていると思うので、AIで対抗するしかないと思う。”
要約AIの悪用に対しては、対抗策としてもAIを活用して対処すべきだと考えている。
この発言を会話の中で読む“AIを適切に、個人情報を丁重に扱えない人が多くて困っています。諌めても「気をつけまーす」と反省してない様子ですし。”
要約個人情報やAIを適切に扱えない人が多く、注意をしても反省の態度が見られないことに困っている。
この発言を会話の中で読む“流出事件が異常な数で起こっており、中国のAIの影響が強く示唆されている”
要約個人情報の流出事件が異常な数で起きていると見ており、このままだとマイナンバーもハッキングされると考えている。中国のAIの影響が強く示唆されているという情報が根拠にある。
この発言を会話の中で読む“また、このような状況なのになぜ個人情報保護法を改正し、AI企業に機微情報まで渡してしまうのか(これはチームみらいにもなぜ賛成したのか説明してほしい)不安で仕方ない”
要約サイバー攻撃などの脅威がある中で、個人情報保護法を改正してAI企業に機微情報を渡す方針に不安を抱き、説明を求めている。
この発言を会話の中で読む“情報のいかなる流出も止める為、AI企業などへの個人情報の提供を厳格化してほしい”
要約あらゆる情報流出を防ぐため、AI企業などに対する個人情報の提供を厳格に規制することを求めている。
この発言を会話の中で読む“今や生成AIを悪用することで、サーバーへの進入が容易になっている、つまりサーバー乗っ取りで自分のサーバーで悪いことをできたりしてしまう。その懸念があった。”
要約生成AIの悪用によってサーバーへ侵入され、乗っ取りや不正利用に巻き込まれることを警戒している。
この発言を会話の中で読む“今回の個人情報流出やディープフェイクなど、生成AIによる被害が甚大のため、以下の対応を希望 ・生成AIの一律使用禁止 ・生成AIを使用した犯罪行為に重い罰則”
要約個人情報流出やディープフェイクの被害が大きいとして、生成AIの一律使用禁止や犯罪行為への重い罰則を求めている。
この発言を会話の中で読む“早急に対応をすることが必要だと思っています。今後、今、日本が集中的に狙われているのかもしれないですし、今後AIの発展によって、どんどん、あの、難しくなってくると思うので、早め早めの対策とアップデートが必要になってくるかなと思います。迅速的な行動は常に必要だと思いますので、お願いします。”
要約AIの発展などで対策がより難しくなることを見据え、早めの対策やシステムの更新など迅速な行動を求めている。
この発言を会話の中で読む“とにかく、安全を守ってくれるAIを至急開発して欲しい”
要約攻撃に対抗し、安全を防御するためのAIを早急に開発することを求めている。
この発言を会話の中で読む“AIの法整備を一刻も早く進めて欲しいと思った。犯罪を犯すハードルが下がりすぎている。”
要約AIの悪用で犯罪のハードルが下がっているため、AIに関する法整備を一刻も早く進めることを求めている。
この発言を会話の中で読む“AIを使用する際、どごまでのラインで顧客情報にアクセスがあるのか、個人情報を扱うPCで、AIを使用しない方がよいのか”
要約AIの利用時にどの範囲まで顧客情報にアクセスされるのかや、個人情報を扱う端末でAIを使ってよいのか判断に迷っている。
この発言を会話の中で読む“ある程度は仕方ないと思うので、被害の程度にストッパーを設けるような これ以上は悪くならない 拡散されない この情報だけは管理がアナログなので 物理的に不可能など ストッパーがあれば良くなる”
要約ある程度のリスクは避けられないとしても、被害の拡散を防ぐ管理体制など、悪化を食い止める制限を設けることを求めている。
この発言を会話の中で読む“テスト費用を国が補助し、資金に余裕のない中小企業でも受けられるようにする”
要約中小企業が費用面を理由にテストを受けられない事態を防ぐため、国による費用の補助を求めている。
この発言を会話の中で読む“個人情報を扱う事業者には、認定テスト機関による審査の合格を必須としてください。AIによる攻撃への耐性がない重要システムは、公開を認めない制度を目指すべきだと考えます”
要約個人情報を扱う事業者に対して認定機関によるテスト合格を義務づけ、AI攻撃への耐性がない重要システムの公開を制限する制度の導入を求めている。
この発言を会話の中で読む“チームみらいはAlを政策や生活に活かす施策を進めていますがその負の面にもきちんと向き合う政党であってほしい”
要約AIを生活や政策に活かす施策を進める一方で、その負の側面にも向き合うことを求めている。
この発言を会話の中で読む“日本がAI分野で遅れを取っているのは事実ですが、その発展と天秤にかけられるのが国民ひとりひとりの安全であってはいけないと思います。安全を守る制度を丁寧に作ったうえで、さらなる発展を願います”
要約AIなどの産業発展のために個人の安全が損なわれないよう、個人情報を保護する制度を丁寧に設計することを求めている。
この発言を会話の中で読む“LLMを活用して、柔軟なチェックをできるといいかも”
要約LLMを活用して事業者が柔軟に診断できる仕組みがあるとよいと考えている。
この発言を会話の中で読む“個人情報を伏せた上で情報を渡すことに面倒を感じている 意図せず個人情報が流入することに恐れるがあまり困っている”
要約AIを利用する際に個人情報を隠して入力する手間が生じるほか、意図せず情報が流出することを恐れて利用に支障が出ている。
この発言を会話の中で読む“ディフェンス能力の共有化（あくまで個人的なアイデアですが、サイバー攻撃時に使用可能な被害状況把握・復旧用の検閲が少ないオープンモデルを国の共有資源として保有しているサーバーで動作させる。利用対象は企業のサイバー担当者等に限定し通常時の利用は許可しないなどのルールを作る”
要約サイバー攻撃時の被害把握や復旧のため、国がサーバー上でモデルを稼働させ、企業の担当者に限定して利用できる共有の仕組みを提案している。
この発言を会話の中で読む“まあセキュリティの行動がなかなか難しいし、AIの台頭によってもっと増えると思うんですが、まあ特にクリティカルな国の情報だったりは最低限抜かれるように、ないようにしてください。”
要約AIの普及で情報流出が増えることを見据え、国の重要情報が流出しないよう対策を求めている。
この発言を会話の中で読む“友人が私の写真や自分のビジネスの顧客先の子供の写真をAIに食わせた”
要約友人が回答者の写真や自社の顧客である子どもの写真を無断でAIに読み込ませた。
この発言を会話の中で読む“AIを利用した無差別な攻撃”
要約ニュースを見て、AIを利用した無差別な攻撃に不安を感じている。
この発言を会話の中で読む“生成AIの利用に関して、社内のガイドラインが作られておらず、個人の判断に任せられている”
要約社内に生成AI利用のガイドラインが整備されておらず、利用の判断が各個人に委ねられている。
この発言を会話の中で読む“３，マイナンバー、狙われます。そしていずれ破られます。 マイナンバー情報の保護の拡充”
要約マイナンバー情報が狙われる事態を想定し、保護の拡充やAI悪用に対する先回りの対応を求めている。
この発言を会話の中で読む“自分の情報が意図せず誰かの元に届いている可能性があるとき(今回の流出や、LLMの学習に勝手に用いられる等)”
要約今回の流出やAIの学習など、自分の意図しないところで情報が第三者に届く可能性に不安を感じている。
この発言を会話の中で読む“AIを、使って攻撃してきているならもう人間では手に負えないのでこちらもAIを使ってリアルタイムで対策する”
要約攻撃側がAIを用いている場合、人間では対応できないため、防御側もAIを使って即座に対策をとる必要があると考えている。
この発言を会話の中で読む“本人は何も反省をしていなかったこと。こちらがどう間違いを伝えようか諫めようか何時間も考えたのに”
要約相手に反省の様子がない中、どのように問題点を伝えて諫めるべきか対応に悩んだ。
この発言を会話の中で読む“デメリットへの対策が不十分なまま政策が推し進められていること”
要約生じうるデメリットへの対策が不十分なまま、政策としてAI推進が進められていると感じている。
この発言を会話の中で読む“で、ま、これは他の国でも起きてるので、ま、現状強いAIを使って、あの、こういうこと起きないようにする、それを義務付けるっていうのはもちろんです。”
要約情報流出を防ぐために高度なAIを活用し、そうした対策を義務付けるよう求めている。
この発言を会話の中で読む“今後AIがますます進化するので、それに対する安全対策は、国をあげて取り組んでほしい”
要約AIの進化に伴う安全対策について、国をあげて取り組むことを求めている。
この発言を会話の中で読む“個人の許可無くAIの学習に使うなどは断固反対”
要約本人の許可なく個人情報をAIの学習データとして利用することに強く反対している。
この発言を会話の中で読む“AIによる個人情報流出の報道が数多くあったため、恐ろしく思った”
要約AIによる個人情報流出の報道が多くあったため、通知を受けて恐怖を感じた。
この発言を会話の中で読む“悪用されたAIから、そのルートを逆探索して、悪用する人達を発見して捕まえる。”
要約悪用されたAIの経路を逆探索し、悪用している人物を特定して検挙する仕組みを求めている。
この発言を会話の中で読む“aiリスク関連にお金をかけてください”
要約政策担当者に対し、AIによるリスクへの対策に予算を投じるよう求めている。
この発言を会話の中で読む“社内でガイドラインを作って欲しい”
要約業務で迷わず利用できるよう、社内で生成AIに関するガイドラインを策定することを望んでいる。
この発言を会話の中で読む“アンソロピックやopen AIとの連携強化。また、その連携に参加する人への信用性の厳重チェック”
要約主要なAI事業者との連携を強化することや、その連携に参加する関係者の信用性を厳格に確認することを求めている。
この発言を会話の中で読む“そろそろみんな漏洩が当たり前になりそうだ。根本的に考え方や対策を作りなおさないとAI時代はダメだなと思った”
要約情報漏洩が日常茶飯事になりつつあり、AI時代に向けて根本的な考え方や対策を作り直す必要があると感じている。
この発言を会話の中で読む“AI発展を背景としたサイバー攻撃に国としてどのように対応していくのか、早急に明確に情報発信して欲しい”
要約AIの発展を背景としたサイバー攻撃に対し、国としての対応方針を早急かつ明確に発信することを求めている。
この発言を会話の中で読む意見の抽出・分類はAIによる自動処理のため、誤りを含む場合があります。表示しているのは、回答者が公開に同意した意見のみです。
このインタビューは募集中です。約6分・匿名で参加できます。