安全な声のために
声は、その人自身です。だからこそ、KOEは「本人がいいと言った声しか使わない」「作った音声は記録する」という原則で作られています。このページでは、わたしたちがしていること、まだできないこと、そして家庭で今日からできることを、正直に書きます。
短い音声からその人の声をまねし、家族や同僚になりすまして電話をかける、音声メッセージを送る——そうした被害が報告されています。人の耳では、数秒の音声で本物かどうかを見分けるのは難しいのが実情です。
音声そのものを聴くだけでは、AIかどうかを確実に見分ける方法はまだ確立していません。だからKOEは「見分ける」だけでなく「作らせない・記録する」側から備えています。声を登録できるのはご本人だけです。登録のときに、何に使ってよいかを確認し、同意の記録を残します。同意の版が変わったときは、もう一度確認します。
「もう使わないでほしい」と取り消した声は、それ以降の合成を止めます。取り消し前に作った音声も、キャッシュから配信され続けないようにしています。
KOEが生成した音声には、声の持ち主・AIか本人か・作った日時・同意した人を記録します。音声そのものの指紋（SHA-256）で照合できるので、受け取った音声がKOE製かどうかを確認できます。
KOEが作った音声には、人の耳には聴こえない印（電子透かし）を入れています。SHA-256の指紋は1バイトでも編集されると合わなくなりますが、この印は音声を変換し直しても残るため、切り出しや再エンコードのあとでも「KOEが関与した音声」だと分かります。
本文の内容・メールアドレス・IPアドレスは記録に残しません。記録は出所の確認に必要な最小限だけです。
KOEは、音声を聴くだけで「これはAIの声だ」と100%判定することはできません。他サービス製の音声や、KOEの印が消えるほど強く加工された音声は判定できません。市販の汎用のAI音声検出モデルは社内で試しましたが、KOE自身の合成音声を「本物」と誤判定したため、判定の材料には使っていません。
できないことを「できる」と書かないことが、いちばん大事な備えだと考えています。受け取った音声がKOE製かどうかは、透かしの確認に音声を送ると調べられます（音声は保存しません）。
登録された声と届いた音声の声紋を比べる「話者照合」は、限られた場面（送られてきた声が登録した本人か）で使っています。ただし、これも本人確認の代わりにはなりません。風邪やマイクの違いで声紋は変わり、似た声の別人では十分に離れないことがあります。KOEは、判定に迷ったときに「別人です」と決めつけず、合言葉や折り返しの確認へ回します。
くわしくは 家族の合言葉 にまとめています。
消費者ホットライン（188）／警察相談専用電話（#9110）。詐欺の被害にあったら、まず警察へ。KOEの声について困ったときは ご意見・ご相談 からご連絡ください。
KOEに声を登録すると、同意の範囲と取り消しの権利がついてきます。登録も、取り消しも、無料です。
登録には、ご本人による録音と同意が必要です。代わりの人が登録することはできません。