Apple continue d'enregistrer les conversations entendues par Siri malgré sa promesse d'arrêter d'après l'un de ses anciens sous-traitants qui s'insurge contre le manque de réaction des autorités.

 

Apple pourrait toujours enregistrer et transcrire les conversations entendues par Siri sur ses téléphones, bien qu'il ait promis de mettre fin à la pratique il y a déjà plusieurs mois, affirme un ancien entrepreneur d'Apple qui a été embauché pour écouter les conversations des clients.

 

Dans une lettre publique envoyée aux autorités de protection des données en Europe, Thomas Le Bonniec exprime sa frustration sur le fait que, malgré la révélation en avril 2019 qu'Apple avait engagé des centaines de personnes pour analyser les enregistrements effectués à l’insu des utilisateurs de ses produits, rien ne semble avoir changé.

 

Ces enregistrements ont été capturés par l'assistant numérique Siri d'Apple, qui écoute constamment les commandes vocales potentielles auxquelles obéir. Les fichiers audio ont été transmis aux travailleurs humains pour transcrire, étiqueter et analyser afin d'améliorer les réseaux neuronaux de Siri qui traitent les commandes vocales des utilisateurs. Chaque fois que Siri entendait quelque chose qu'il ne pouvait pas comprendre - que ce soit une commande ou une conversation privée de quelqu'un ou un moment intime - il envoyait une copie de l'audio au vaisseau mère pour traitement afin qu'il puisse être recyclé pour faire mieux la prochaine fois.

 

Le Bonniec a travaillé pour le sous-traitant d'Apple Globe Technical Services en Irlande pendant deux mois, effectuant cette analyse manuelle de l'audio enregistré par Siri, et a été témoin de ce qu'il dit être une « violation massive de la vie privée de millions de citoyens ».

 

« Partout dans le monde, les gens ont vu leur vie privée enregistrée par Apple jusqu'aux détails les plus intimes et les plus sensibles », a-t-il expliqué. « D'énormes quantités de données personnelles ont été collectées, stockées et analysées par Apple de manière opaque. Ces pratiques sont clairement en contradiction avec les politiques de confidentialité de l'entreprise et devraient faire l'objet d'une enquête urgente de la part des autorités de protection des données et des autorités de surveillance de la confidentialité ».

 

Le Bonniec, 25 ans, a donc travaillé en tant que sous-traitant pour Apple dans ses bureaux de Cork, transcrivant les demandes des utilisateurs en anglais et en français, jusqu'à sa démission à l'été 2019 en raison de problèmes éthiques avec le travail. « Ils opèrent dans une zone grise du morale et du légal », avait-il déclaré à l'époque, « et ils le font depuis des années à grande échelle ».

 

À la suite des révélations de Le Bonniec et de ses collègues, Apple a promis des changements radicaux à son programme de «classement», qui impliquait des milliers de sous-traitants écoutant des enregistrements faits, accidentellement et délibérément, en utilisant Siri. La société s'est excusée dans un communiqué et a annoncé : « Pendant que nous effectuons un examen approfondi, nous suspendons l’analyse des conversations Siri au niveau mondial. De plus, dans le cadre d’une future mise à jour logicielle, les utilisateurs auront la possibilité de choisir de participer au programme ». L'entreprise a promis d’introduire une option de consentement qui n’existait pas jusqu’à lors.

 

Pourtant, malgré le fait que l’entreprise ait reconnu qu'il s'agissait en fait de transcrire et de baliser un grand nombre de conversations que les utilisateurs ignoraient avoir été enregistrées par leurs Mac et appareils iOS, a promis un « examen approfondi de nos pratiques et politiques » et s'est excusé de ne pas « avoir pleinement respecté nos idéaux élevés », rien n’a changé selon Le Bonniec.

 

« Rien n'a été fait pour vérifier si Apple a réellement arrêté le programme. Certaines sources m'ont déjà confirmé qu'Apple ne l'a pas fait », a-t-il déclaré.

 

« Je crois que les déclarations d'Apple visent simplement à rassurer leurs utilisateurs et les autorités publiques, et ils ne se soucient pas du consentement de leur utilisateur, sauf s'ils sont contraints de l'obtenir par la loi », explique-t-il dans sa plainte. « Il est inquiétant qu'Apple (et sans aucun doute pas juste Apple) continue d'ignorer et de violer les droits fondamentaux et reconduit sa collecte massive de données ».

 

En fait, affirme-t-il, « les grandes entreprises technologiques mettent sur écoute des populations entières malgré le fait que les citoyens européens soient informés que l'UE a l'une des lois de protection des données les plus strictes au monde. L'adoption d'une loi n'est pas suffisante: elle doit être appliquée aux contrevenants à la vie privée »

 

A quel point la situation est-elle préoccupante ?

 

Selon Le Bonniec : « J'ai écouté des centaines d'enregistrements chaque jour, à partir de divers appareils Apple (par exemple, iPhone, Apple Watch ou iPad). Ces enregistrements ont souvent été réalisés en dehors de toute activation de Siri, par ex. dans le cadre d'une intention réelle de l'utilisateur de l'activer pour une demande.

 

« Ces traitements ont été effectués à l'insu des utilisateurs et ont été regroupés dans des ensembles de données pour corriger la transcription de l'enregistrement effectué par l'appareil. Les enregistrements n'étaient pas limités aux utilisateurs d'appareils Apple, mais concernaient également des parents, des enfants, des amis, des collègues et quiconque pouvait être enregistré par l'appareil.

 

« Le système a tout enregistré: noms, adresses, messages, recherches, arguments, bruits de fond, films et conversations. J'ai entendu des gens parler de leur cancer, faisant référence à des proches décédés, à la religion, à la sexualité, à la pornographie, à la politique, à l'école, aux relations ou à la drogue sans aucune intention d'activer Siri ».

 

Donc, la situation est assez préoccupante.

 

Comment Apple a-t-il justifié ce qui semble être un acte illégal et transparent mené quotidiennement sur des millions de personnes ? L’entreprise ne l’a pas fait. Après que le programme ait été dévoilé l'année dernière, Apple a déclaré qu'il apporterait des modifications et déplacerait le système en interne en plus de s'assurer que les utilisateurs puissent choisir de participer ou non au programme.

 

Cette option d'opt-in / opt-out a été ajoutée aux mises à jour logicielles pour iPhones et Mac à la fin de l'année dernière, mais le système et le processus restent entièrement opaques. Et Apple a maintenu son approche habituelle consistant à refuser même d'accuser réception des demandes d'informations supplémentaires.

 

Que font les régulateurs ?

 

Qu'en est-il de la Commission irlandaise de protection des données (DPC) dont le travail consiste à s'assurer que les entreprises relevant de sa juridiction (la plupart des grandes enseignes technologiques ont installé leur siège européen en Irlande grâce à des allégements fiscaux très généreux) respectent la loi ?

 

En décembre 2019, lorsque la nouvelle du programme a été dévoilée, la DPC a publié une déclaration faisant référence aux assistants numériques de Google et d'Amazon ainsi qu'Apple et a déclaré qu'il était actuellement « en contact avec ces organisations pour établir la manière dont leurs produits d'assistant vocal se conformer aux exigences de protection des données ».

 

Son plan, a-t-elle dit, était « d'identifier les domaines de préoccupation communs et d'identifier les étapes supplémentaires, y compris les directives, qui pourraient être nécessaires pour clarifier davantage l'application des exigences de protection des données dans l'utilisation de la technologie d'assistant vocal ». Il n’y a pas encore de suite.

 

Le Bonniec montre clairement qu’il ne croit pas que la question soit prise suffisamment au sérieux et espère que sa plainte pourra faire avancer les choses :

 

« Cette lettre publique est destinée à demander aux autorités de prendre des mesures et d'appeler les personnes qui peuvent témoigner de leur expérience avec Apple, par le biais d'un canal public ou d'une dénonciation. Cette déclaration sera également partagée avec la presse et les organisations protégeant nos droits numériques.

 

« Ce faisant, je ne respecte pas mon accord de non-divulgation afin d'aider les autorités à enquêter et à déterminer si Apple a effectivement mis fin à ces pratiques. Le risque que je prends n'en vaut la peine que si cette lettre est suivie d'une enquête et d'une action appropriées de votre part. Je crois que vous comprenez que la vie privée de millions de personnes est en jeu et que votre action est cruciale pour la protéger ».

 

Source.

 

 

Apple continue d'enregistrer les conversations entendues par Siri malgré sa promesse d'arrêter d'après l'un de ses anciens sous-traitants qui s'insurge contre le manque de réaction des autorités.

 

Apple pourrait toujours enregistrer et transcrire les conversations entendues par Siri sur ses téléphones, bien qu'il ait promis de mettre fin à la pratique il y a déjà plusieurs mois, affirme un ancien entrepreneur d'Apple qui a été embauché pour écouter les conversations des clients.

 

Dans une lettre publique envoyée aux autorités de protection des données en Europe, Thomas Le Bonniec exprime sa frustration sur le fait que, malgré la révélation en avril 2019 qu'Apple avait engagé des centaines de personnes pour analyser les enregistrements effectués à l’insu des utilisateurs de ses produits, rien ne semble avoir changé.

 

Ces enregistrements ont été capturés par l'assistant numérique Siri d'Apple, qui écoute constamment les commandes vocales potentielles auxquelles obéir. Les fichiers audio ont été transmis aux travailleurs humains pour transcrire, étiqueter et analyser afin d'améliorer les réseaux neuronaux de Siri qui traitent les commandes vocales des utilisateurs. Chaque fois que Siri entendait quelque chose qu'il ne pouvait pas comprendre - que ce soit une commande ou une conversation privée de quelqu'un ou un moment intime - il envoyait une copie de l'audio au vaisseau mère pour traitement afin qu'il puisse être recyclé pour faire mieux la prochaine fois.

 

Le Bonniec a travaillé pour le sous-traitant d'Apple Globe Technical Services en Irlande pendant deux mois, effectuant cette analyse manuelle de l'audio enregistré par Siri, et a été témoin de ce qu'il dit être une « violation massive de la vie privée de millions de citoyens ».

 

« Partout dans le monde, les gens ont vu leur vie privée enregistrée par Apple jusqu'aux détails les plus intimes et les plus sensibles », a-t-il expliqué. « D'énormes quantités de données personnelles ont été collectées, stockées et analysées par Apple de manière opaque. Ces pratiques sont clairement en contradiction avec les politiques de confidentialité de l'entreprise et devraient faire l'objet d'une enquête urgente de la part des autorités de protection des données et des autorités de surveillance de la confidentialité ».

 

Le Bonniec, 25 ans, a donc travaillé en tant que sous-traitant pour Apple dans ses bureaux de Cork, transcrivant les demandes des utilisateurs en anglais et en français, jusqu'à sa démission à l'été 2019 en raison de problèmes éthiques avec le travail. « Ils opèrent dans une zone grise du morale et du légal », avait-il déclaré à l'époque, « et ils le font depuis des années à grande échelle ».

 

À la suite des révélations de Le Bonniec et de ses collègues, Apple a promis des changements radicaux à son programme de «classement», qui impliquait des milliers de sous-traitants écoutant des enregistrements faits, accidentellement et délibérément, en utilisant Siri. La société s'est excusée dans un communiqué et a annoncé : « Pendant que nous effectuons un examen approfondi, nous suspendons l’analyse des conversations Siri au niveau mondial. De plus, dans le cadre d’une future mise à jour logicielle, les utilisateurs auront la possibilité de choisir de participer au programme ». L'entreprise a promis d’introduire une option de consentement qui n’existait pas jusqu’à lors.

 

Pourtant, malgré le fait que l’entreprise ait reconnu qu'il s'agissait en fait de transcrire et de baliser un grand nombre de conversations que les utilisateurs ignoraient avoir été enregistrées par leurs Mac et appareils iOS, a promis un « examen approfondi de nos pratiques et politiques » et s'est excusé de ne pas « avoir pleinement respecté nos idéaux élevés », rien n’a changé selon Le Bonniec.

 

« Rien n'a été fait pour vérifier si Apple a réellement arrêté le programme. Certaines sources m'ont déjà confirmé qu'Apple ne l'a pas fait », a-t-il déclaré.

 

« Je crois que les déclarations d'Apple visent simplement à rassurer leurs utilisateurs et les autorités publiques, et ils ne se soucient pas du consentement de leur utilisateur, sauf s'ils sont contraints de l'obtenir par la loi », explique-t-il dans sa plainte. « Il est inquiétant qu'Apple (et sans aucun doute pas juste Apple) continue d'ignorer et de violer les droits fondamentaux et reconduit sa collecte massive de données ».

 

En fait, affirme-t-il, « les grandes entreprises technologiques mettent sur écoute des populations entières malgré le fait que les citoyens européens soient informés que l'UE a l'une des lois de protection des données les plus strictes au monde. L'adoption d'une loi n'est pas suffisante: elle doit être appliquée aux contrevenants à la vie privée »

 

A quel point la situation est-elle préoccupante ?

 

Selon Le Bonniec : « J'ai écouté des centaines d'enregistrements chaque jour, à partir de divers appareils Apple (par exemple, iPhone, Apple Watch ou iPad). Ces enregistrements ont souvent été réalisés en dehors de toute activation de Siri, par ex. dans le cadre d'une intention réelle de l'utilisateur de l'activer pour une demande.

 

« Ces traitements ont été effectués à l'insu des utilisateurs et ont été regroupés dans des ensembles de données pour corriger la transcription de l'enregistrement effectué par l'appareil. Les enregistrements n'étaient pas limités aux utilisateurs d'appareils Apple, mais concernaient également des parents, des enfants, des amis, des collègues et quiconque pouvait être enregistré par l'appareil.

 

« Le système a tout enregistré: noms, adresses, messages, recherches, arguments, bruits de fond, films et conversations. J'ai entendu des gens parler de leur cancer, faisant référence à des proches décédés, à la religion, à la sexualité, à la pornographie, à la politique, à l'école, aux relations ou à la drogue sans aucune intention d'activer Siri ».

 

Donc, la situation est assez préoccupante.

 

Comment Apple a-t-il justifié ce qui semble être un acte illégal et transparent mené quotidiennement sur des millions de personnes ? L’entreprise ne l’a pas fait. Après que le programme ait été dévoilé l'année dernière, Apple a déclaré qu'il apporterait des modifications et déplacerait le système en interne en plus de s'assurer que les utilisateurs puissent choisir de participer ou non au programme.

 

Cette option d'opt-in / opt-out a été ajoutée aux mises à jour logicielles pour iPhones et Mac à la fin de l'année dernière, mais le système et le processus restent entièrement opaques. Et Apple a maintenu son approche habituelle consistant à refuser même d'accuser réception des demandes d'informations supplémentaires.

 

Que font les régulateurs ?

 

Qu'en est-il de la Commission irlandaise de protection des données (DPC) dont le travail consiste à s'assurer que les entreprises relevant de sa juridiction (la plupart des grandes enseignes technologiques ont installé leur siège européen en Irlande grâce à des allégements fiscaux très généreux) respectent la loi ?

 

En décembre 2019, lorsque la nouvelle du programme a été dévoilée, la DPC a publié une déclaration faisant référence aux assistants numériques de Google et d'Amazon ainsi qu'Apple et a déclaré qu'il était actuellement « en contact avec ces organisations pour établir la manière dont leurs produits d'assistant vocal se conformer aux exigences de protection des données ».

 

Son plan, a-t-elle dit, était « d'identifier les domaines de préoccupation communs et d'identifier les étapes supplémentaires, y compris les directives, qui pourraient être nécessaires pour clarifier davantage l'application des exigences de protection des données dans l'utilisation de la technologie d'assistant vocal ». Il n’y a pas encore de suite.

 

Le Bonniec montre clairement qu’il ne croit pas que la question soit prise suffisamment au sérieux et espère que sa plainte pourra faire avancer les choses :

 

« Cette lettre publique est destinée à demander aux autorités de prendre des mesures et d'appeler les personnes qui peuvent témoigner de leur expérience avec Apple, par le biais d'un canal public ou d'une dénonciation. Cette déclaration sera également partagée avec la presse et les organisations protégeant nos droits numériques.

 

« Ce faisant, je ne respecte pas mon accord de non-divulgation afin d'aider les autorités à enquêter et à déterminer si Apple a effectivement mis fin à ces pratiques. Le risque que je prends n'en vaut la peine que si cette lettre est suivie d'une enquête et d'une action appropriées de votre part. Je crois que vous comprenez que la vie privée de millions de personnes est en jeu et que votre action est cruciale pour la protéger ».

 

Source.

Et aprés on se demande pourquoi certains (dont moi) ne veulent entendre parler de smartphone.Sans parler de l'effet inquiétant des gens qui y sont littéralement accro.