IᑎᐯEᖇTEᗪ ᖇEᐯEᖇᔕEᗪ 👁 :
🪽Pavel Durov
Hier soir, Apple a temporairement supprimé Telegram de l’App Store parce qu’un seul utilisateur avait publié du contenu pornographique illégal dans un groupe de discussion public.
⬅️ Telegram a été rétabli en quelques heures. Mais je souhaite expliquer ce qui s’est passé, afin d’alerter les autres développeurs d’applications et d’aider à protéger les communautés en ligne contre de telles attaques.
🧹Comme Telegram supprime rapidement le contenu illégal des groupes publics en utilisant tous types d’outils de modération, l’attaquant a dû recourir à une astuce technique. Il a inséré du contenu illégal modifié par l’IA en modifiant un ancien message dans un groupe de discussion actif. Par conséquent, le contenu était effectivement caché aux membres du groupe, les empêchant de le voir et de le signaler rapidement.
💰 L’attaquant était un extorqueur : une personne qui exige une rançon des propriétaires de groupes en échange de ne pas cibler leurs communautés. Ces extorqueurs utilisent des comptes automatisés pour publier du contenu illégal dans des groupes publics, puis le signalent directement à Apple, dans le but de provoquer la suppression de communautés légitimes dont les propriétaires ont refusé de leur payer.
🤝 Sur le plan pratique, la présence de contenu pornographique illégal dans les groupes publics de Telegram n’est pas un problème systémique. Notre modération est efficace. Le fait que les attaquants doivent recourir à du contenu daté, pratiquement invisible, et à d’autres astuces techniques, le prouve.
⚠️ Cependant, il y a deux leçons importantes à retenir pour les développeurs d’applications et les communautés en ligne :
— Les extorqueurs ont trouvé un moyen de manipuler Apple pour qu’elle réagisse de manière excessive. Apple a supprimé Telegram de l’App Store avant de nous contacter. Cela crée un risque systémique potentiel pour chaque application mobile qui héberge du contenu généré par les utilisateurs. Si une application utilisée par plus d’un milliard de personnes peut être supprimée de l’App Store sans avertissement préalable, n’importe quelle application peut l’être.
— Les tactiques utilisées par les extorqueurs évoluent, mettant en danger les communautés sur toutes les plateformes de médias sociaux. Telegram a une vaste expérience dans l’identification des astuces utilisées par les groupes de signalement coordonnés et dans la protection des communautés légitimes (même lorsque cela risque de supprimer temporairement notre propre application de l’App Store). D’autres plateformes peuvent ne pas être aussi bien préparées.
Restez vigilants ! ☝️
🪽Pavel Durov
Hier soir, Apple a temporairement supprimé Telegram de l’App Store parce qu’un seul utilisateur avait publié du contenu pornographique illégal dans un groupe de discussion public.
⬅️ Telegram a été rétabli en quelques heures. Mais je souhaite expliquer ce qui s’est passé, afin d’alerter les autres développeurs d’applications et d’aider à protéger les communautés en ligne contre de telles attaques.
🧹Comme Telegram supprime rapidement le contenu illégal des groupes publics en utilisant tous types d’outils de modération, l’attaquant a dû recourir à une astuce technique. Il a inséré du contenu illégal modifié par l’IA en modifiant un ancien message dans un groupe de discussion actif. Par conséquent, le contenu était effectivement caché aux membres du groupe, les empêchant de le voir et de le signaler rapidement.
💰 L’attaquant était un extorqueur : une personne qui exige une rançon des propriétaires de groupes en échange de ne pas cibler leurs communautés. Ces extorqueurs utilisent des comptes automatisés pour publier du contenu illégal dans des groupes publics, puis le signalent directement à Apple, dans le but de provoquer la suppression de communautés légitimes dont les propriétaires ont refusé de leur payer.
🤝 Sur le plan pratique, la présence de contenu pornographique illégal dans les groupes publics de Telegram n’est pas un problème systémique. Notre modération est efficace. Le fait que les attaquants doivent recourir à du contenu daté, pratiquement invisible, et à d’autres astuces techniques, le prouve.
⚠️ Cependant, il y a deux leçons importantes à retenir pour les développeurs d’applications et les communautés en ligne :
— Les extorqueurs ont trouvé un moyen de manipuler Apple pour qu’elle réagisse de manière excessive. Apple a supprimé Telegram de l’App Store avant de nous contacter. Cela crée un risque systémique potentiel pour chaque application mobile qui héberge du contenu généré par les utilisateurs. Si une application utilisée par plus d’un milliard de personnes peut être supprimée de l’App Store sans avertissement préalable, n’importe quelle application peut l’être.
— Les tactiques utilisées par les extorqueurs évoluent, mettant en danger les communautés sur toutes les plateformes de médias sociaux. Telegram a une vaste expérience dans l’identification des astuces utilisées par les groupes de signalement coordonnés et dans la protection des communautés légitimes (même lorsque cela risque de supprimer temporairement notre propre application de l’App Store). D’autres plateformes peuvent ne pas être aussi bien préparées.
Restez vigilants ! ☝️
