Imaginez que vous vous asseyez avec un modèle d’IA pour un entretien oral de deux heures. Une voix amicale vous guide tout au long d’une conversation qui porte sur votre enfance, vos souvenirs de formation, votre carrière et vos idées sur la politique d’immigration. Peu de temps après, une réplique virtuelle de vous est capable d’incarner vos valeurs et vos préférences avec une précision étonnante.

C’est désormais possible, selon un nouvel article d’une équipe comprenant des chercheurs de Stanford et de Google DeepMind, qui a été publié sur arXiv et n’a pas encore fait l’objet d’un examen par les pairs.

Dirigée par Joon Sung Park, doctorant en informatique à Stanford, l’équipe a recruté 1 000 personnes de différents âges, sexes, races, régions, niveaux d’éducation et idéologies politiques. Ces personnes ont été payées jusqu’à 100 dollars pour leur participation. À partir des entretiens menés avec ces personnes, l’équipe a créé des agents reproduisant ces individus. Pour déterminer dans quelle mesure les agents imitaient leurs homologues humains, les participants ont effectué une série de tests de personnalité, d’enquêtes sociales et de jeux de logique, deux fois chacun, à deux semaines d’intervalle ; puis les agents ont effectué les mêmes exercices. Les résultats ont été similaires à 85 %.

  • leftascenter@jlai.luOP
    link
    fedilink
    Français
    arrow-up
    1
    ·
    3 days ago

    L’article va plus loin, je vous laisse le lire / traduire.

    Mais c’est le début de la flip quand même.

    • keepthepace@slrpnk.net
      link
      fedilink
      Français
      arrow-up
      1
      ·
      edit-2
      3 days ago

      Perso je trouve ça super intéressant pour des applications en démocratie participative: si t’as un agent qui connaît bien tes préférences, ça devient possible de fournir un vote pour tous les textes débattus à l’assemblée voire de t’alerter quand quelque chose peut t’intéresser particulièrement.

      Il faut bien sur que le modèle t’appartienne et ne dépende pas du bon vouloir d’une boite américaine, mais en modèle local, avoir un agent-lobbyiste qui participe au débat démocratique, ça me gêne pas, ça serait un gros progrès je trouve.

      • leftascenter@jlai.luOP
        link
        fedilink
        Français
        arrow-up
        1
        ·
        edit-2
        3 days ago

        je suis pas optimiste.

        Si c’est possible ça sera d’abord utilisé pour le lobbying par des grosses boites, et je trouve qu’associes a des avatars deepfakes, ça donne un pouvoir de communication institutionelle flippant. Dans le meilleur des cas tu n’as que Ronald qui explique en personne la com externe de mc do.

        Ça peut aussi faire des sectes intéressantes.

        Pis ça résonne avec le livre “Bug Jack Baron” / “Jack Baron Et l’éternité”

        https://fr.wikipedia.org/wiki/Jack_Barron_et_l'Éternité

        https://arxiv.org/abs/2410.20746

        • keepthepace@slrpnk.net
          link
          fedilink
          Français
          arrow-up
          1
          ·
          3 days ago

          Les choses que j’espère n’arriveront pas toutes seules, elles sont vachement moins rentables, mais si on arrive à au moins en rêver et à l’espérer, ça a plus de chance d’arriver.