Lena Schiwitz explore le sujet de la confiance dans l'IA et comment bâtir une carrière dans la technologie ne consiste pas à « être un certain type » de professionnel.
Dans moins d'un mois, Lena Schiwitz, responsable IA de la start-up zurichoise MoodTalk, se rendra au Université d'Oxford comme l'un des 35 étudiants participant à un nouveau programme de master en IA.
Aujourd’hui, une grande partie de son travail se concentre sur l’intelligence artificielle et sur la manière dont elle peut être intégrée aux processus consommateurs et internes, et plus particulièrement sur la manière dont les organisations peuvent réellement l’adopter.
Schiwitz a déclaré à SiliconRepublic.com : « Cela signifie créer des flux de travail d'IA, travailler avec les clients et examiner de près les domaines dans lesquels les gens font confiance à la technologie, les domaines dans lesquels ils hésitent et ce qui la rend véritablement utile dans leur travail quotidien.
» Notre objectif plus large est de rendre les connaissances plus accessibles au sein des organisations. Souvent, les informations dont les dirigeants ont besoin existent déjà quelque part dans l'organisation, mais elles sont réparties entre les équipes et les niveaux et n'atteignent pas la bonne personne au bon moment. «
« Nous utilisons l’IA pour recueillir des points de vue et identifier des modèles parmi eux, afin que les dirigeants puissent comprendre ce qui se passe sans attendre que les informations circulent lentement dans les réunions, les rapports et les niveaux de gestion. »
Le concept de trouver la bonne personne au bon moment ou d'être l'architecte du voyage de quelqu'un d'autre est un concept très personnel pour Schiwitz, car sa trajectoire de carrière allait initialement dans une direction très différente.
Elle a commencé sa carrière en tant qu'enseignante dans une école nationale dans son Autriche natale et a travaillé pendant deux ans dans le secteur de la garde d'enfants.
Elle a déclaré : « À l'époque, j'avais très peu d'exposition à la technologie ou à ce à quoi ressemblaient réellement les carrières dans le domaine de la technologie. J'ai toujours aimé les mathématiques, la pensée logique et comprendre comment les choses fonctionnent. Je ne savais tout simplement pas qu'il existait des carrières construites autour de ces intérêts.
« Cela a changé lorsque j'ai déménagé en Suisse pour travailler comme nounou. Les deux parents de ma famille d'accueil travaillaient dans la technologie et, pendant le dîner, ils parlaient des produits qu'ils fabriquaient, des problèmes qu'ils résolvaient et des décisions qu'ils devaient prendre. J'ai trouvé ces conversations fascinantes. Pour la première fois, j'ai vu un monde professionnel qui correspondait à la façon dont j'aimais penser. »
De là, elle a étudié les technologies de l'information d'entreprise, une formation dans laquelle beaucoup de ses amis ont eu l'expérience via une série de programmes d'apprentissage et d'emplois antérieurs.
« J'ai passé ces mêmes années à travailler avec des enfants », a-t-elle expliqué, ajoutant qu' »au début, cela me semblait un désavantage. Mais avec le temps, j'ai réalisé que j'apportais une perspective différente. Mon parcours m'a beaucoup appris sur la façon dont les gens apprennent, ce qui les motive, comment ils réagissent au changement et pourquoi la même approche ne fonctionne pas pour tout le monde ».
Une fois qu'elle a terminé sa thèse de licence sur faire confiance à l'IAtout s’est mis en place et elle a trouvé, pour la première fois, un débouché dans lequel elle pouvait combiner la compréhension des gens et l’apprentissage avec une connaissance de la technologie et de l’IA.
Elle a déclaré : « J’ai réalisé que j’étais plus intéressée par l’espace où ces choses se rencontrent, par la compréhension de ce que la technologie peut faire et de ce dont les gens ont besoin pour réellement l’utiliser. »
Ami ou ennemi de l'IA ?
Le concept de confiance dans l’IA est particulièrement motivant pour Schiwitz qui explique que nous commençons à nous adapter à la technologie presque autant qu’elle s’adapte à nous.
Elle a déclaré : « Il y a quelques années, nous posions principalement des questions isolées à l'IA. Désormais, nous lui donnons accès à nos réunions, documents, décisions et, de plus en plus, à la mémoire de notre organisation. Nous enregistrons les conversations en sachant qu'elles pourront être consultées plus tard. Nous documentons les informations différemment parce que nous attendons de l'IA qu'elle comprenne le contexte. «
« Je trouve ce changement fascinant. Nous construisons l'IA autour de la façon dont les humains travaillent, tout en commençant en même temps à organiser notre travail autour de ce que l'IA peut comprendre. » Et cela se produit plus rapidement que les normes qui l’entourent ne peuvent se développer.
« Nous sommes encore en train de décider ce que l'IA doit retenir, ce qu'elle doit oublier, quel contexte elle doit avoir et quelles décisions doivent rester humaines. »
Elle se retrouve motivée par le besoin, non seulement de créer une meilleure technologie, mais aussi de contribuer à déterminer comment les humains et l’IA devraient travailler ensemble, car « bon nombre des questions les plus importantes sont encore ouvertes ».
Le bon type de confiance
Schiwitz a cependant noté que renforcer la confiance dans l’IA ne consiste pas simplement à rendre l’humain plus confiant dans la technologie, en particulier dans les cas où cela peut s’avérer injustifié.
Au cours de ses recherches, elle a découvert qu'il n'est pas nécessairement difficile d'accroître la confiance des gens dans l'IA dans des scénarios où l'intelligence artificielle n'a pas réellement été améliorée.
Elle a déclaré : Pour ma thèse de licence, j'ai modifié des choses relativement simples autour d'un assistant IA. J'ai expliqué plus clairement pourquoi les gens interagissaient avec lui, j'ai rendu ses limites plus visibles et j'ai donné plus de structure à la conversation. L'IA elle-même n'est pas devenue plus intelligente, mais la confiance des gens en elle a considérablement augmenté et la façon dont ils interagissent avec elle a changé.
« J'ai trouvé cela fascinant, mais aussi légèrement inconfortable. J'avais j'ai commencé mes recherches me demandant comment je pourrais amener les gens à faire confiance à l'IA. À la fin, je me demandais si l’objectif était même d’accroître la confiance. Si des choix de conception relativement modestes peuvent changer la confiance que les gens accordent à l’IA, alors la confiance ne prouve pas nécessairement que le système le mérite.
Cependant, cela a changé pour elle lorsqu’elle a commencé à réfléchir à l’IA dans les organisations et au fait que l’objectif n’est jamais une confiance maximale.
« Cela devrait aider les gens à faire confiance à l’IA quand ils le devraient et à la remettre en question quand ils ne le devraient pas. »
Et son virage unique vers la technologie, grâce auquel elle est arrivée avec une formation moins que traditionnelle, a contribué à ce désir de cultiver une véritable confiance dans les équipes d’IA et de technologie dans leur ensemble.
Elle a déclaré : « Pendant longtemps, j'ai pensé que j'étais entrée dans la technologie trop tard. Maintenant, je pense que je l'ai simplement abordée avec une perspective différente. Mon expérience en éducation façonne encore les questions que je pose sur la technologie, en particulier sur la façon dont les gens la comprennent, lui font confiance et l'utilisent.
« Cet automne, je commence d'Oxford MSc en Intelligence Artificielle pour les Entreprises parallèlement à mon travail. Pour moi, cela ressemble moins à un nouveau changement de direction qu’à un approfondissement des questions que je suis depuis le début.
