Egalité et Réconciliation
https://www.egaliteetreconciliation.fr/
 
A A A
imprimer

Et si l’intelligence artificielle était déjà hors de contrôle ?

Des scientifiques alertent : les algorithmes sont devenus si complexes que certaines machines prennent des décisions que l’humain ne parvient plus à expliquer. Les risques de dérives sont importants. Mais il n’est pas trop tard pour agir.

 

L’IA, ce sont des algorithmes extrêmement puissants, capables de travailler avec des bases de données gigantesques pour apprendre, et prendre ensuite les décisions les plus pertinentes possible. Et si la créature échappait au créateur ?

C’est l’un des cauchemars des ingénieurs de la NASA. L’un de leur rovers à six roues explore la surface de Mars en mode autonome. Soudain, le véhicule se dirige vers la droite, longe une falaise, marque un temps d’arrêt puis se jette dans le vide et s’écrase 400 mètres plus bas. À 70 millions de kilomètres de là, à Houston, les spécialistes de la NASA sont effondrés. Plus rien ne peut sauver une mission qui aura coûté plus d’un milliard de dollars. Le rover, équipé d’un système d’intelligence artificielle, a pris des décisions qu’ils ne peuvent pas expliquer.

La NASA, qui utilise l’intelligence artificielle (IA) tant pour piloter ses robots que pour analyser des millions de photos de l’espace, tente de garder le contrôle de cette technologie. Mais le défi est immense. Et de plus en plus de scientifiques et d’ingénieurs s’alarment : aujourd’hui déjà, il y a un risque que l’IA échappe à leur contrôle. Et que personne ne soit capable d’expliquer comment un système est parvenu à une décision.

 

« S’en préoccuper immédiatement »

« On ne parle pas forcément de robots tueurs qui se retourneraient contre les humains et les extermineraient. On parle de technologies qui sont installées dans des voitures, des smartphones ou des ordinateurs. C’est extrêmement concret et il faut s’en préoccuper immédiatement », avertit Rachid Guerraoui, directeur du Laboratoire de programmation distribuée de l’EPFL.

Il y a un mois, le chercheur, avec trois membres de son laboratoire, présentait leur dernière trouvaille à la conférence « Neural Information Processing Systems » de Long Beach, en Californie – la réunion la plus pointue sur l’IA. Devant notamment des ingénieurs de la NASA, ils ont dévoilé une solution pour tenter de garder le contrôle sur cette technologie.

[...]

« Aujourd’hui déjà, des systèmes d’IA détectent lorsqu’un humain tente de modifier leur comportement et font parfois tout pour rejeter cette intervention et la contourner si elle entre en conflit avec l’objectif initial de l’IA. Il faut agir de manière subtile et rapide pour que l’IA croie qu’elle prend elle-même toutes les décisions. Et ensuite effacer les traces d’intervention humaine », poursuit le professeur.

Ce qui semble de la pure science-fiction est donc réalité. Des systèmes d’IA prennent des décisions propres en se nourrissant de bases de données gigantesques. Le phénomène est massif. Mais pas totalement nouveau. « L’intelligence artificielle est un terme à la mode, mais elle trouve ses racines dans les années 1960 déjà avec les systèmes experts. Aujourd’hui, la puissance de calcul, les capacités de mémoire et les masses de données amplifient de manière extraordinaire ce phénomène », détaille Hervé Bourlard, directeur de l’institut de recherche Idiap de Martigny.

 

Neurones artificiels

Actuellement, ce sont des réseaux de plus en plus gros de neurones artificiels qui sont créés. De quoi s’agit-il ?

« L’idée est de tenter de répliquer, de manière informatique, le fonctionnement du cerveau, poursuit Hervé Bourlard. Attention, nous n’allons jamais pouvoir copier le système de milliards de neurones du cerveau, qui est d’une incroyable complexité. Mais nous sommes déjà capables de créer des réseaux de neurones artificiels dotés de plusieurs couches hiérarchiques, via des systèmes de calculs très compliqués. »

Ces neurones ont été entraînés à prendre de bonnes décisions sur la base de bases de données dont ils se nourrissent en permanence – on appelle cela le « machine learning ». Ces neurones sont aussi capables de s’entraider en cas de problème.

Lire l’article entier sur letemps.ch

Échapper aux manipulations transhumanistes
avec Kontre Kulture :

Pour tout savoir du transhumanisme, voir sur E&R :

 



Article ancien.
Les commentaires sont désactivés



Alerter

51 Commentaires

AVERTISSEMENT !

Eu égard au climat délétère actuel, nous ne validerons plus aucun commentaire ne respectant pas de manière stricte la charte E&R :

- Aucun message à caractère raciste ou contrevenant à la loi
- Aucun appel à la violence ou à la haine, ni d'insultes
- Commentaire rédigé en bon français et sans fautes d'orthographe

Quoi qu'il advienne, les modérateurs n'auront en aucune manière à justifier leurs décisions.

Tous les commentaires appartiennent à leurs auteurs respectifs et ne sauraient engager la responsabilité de l'association Egalité & Réconciliation ou ses représentants.

  • Attention à la double détente : certains se font passer pour gentils en pointant du doigt le danger de l’intelligence artificielle, et proposent une solution : le transhumanisme, ’’pour que l’IA ne nous dépasse pas, nous devons changer nous aussi, et de toute façon on peut rien contre elle, donc le seul levier de contrôle, c’est nous’’.
    Et voilà un ’’gentil humaniste’’ qui nous donne comme seule alternative la transhumanisme.
    Docteur ès sophisme.
    Bravo.


  • " La révolte des robots " c’est un thème qui remonte à 1920 dans la pièce du Tchèque Karel Capek, inventeur du concept "robot" . Depuis ce thème a donné lieu à d’innombrables "marronniers", "Science et Vie" par exemple en fait ses choux gras depuis des années . Rien de bien grave .


  • La machine qui échappe à l’homme, il est très probable que ça arrivera un jour, mais on en est encore assez loin.
    Mais c’est un thème qui fait vendre, et qui permet à des chercheurs carriéristes et baratineurs de se faire mousser auprès des journalistes non spécialisés.
    Ce genre d’enfumage du public n’est pas nouveau, mais est devenu assez fréquent.


  • Terminator, plus que jamais possible...

     

  • C’est toujours bizarre, ces articles annonçant au grand public des avancées dans des domaines de pointe, par ailleurs tenus secrets par les brevets voire la sécurité nationale.

    ça rappelle le sketch de Coluche sur les journalistes : "qu’un accord secret pourrait être signé...".
    "Secret" : dont on ne saura jamais rien.
    "pourrait" : c’’est même pas sûr.
    Et c’est censé nous intéresser.

    Sans parler du piège intellectuel : qui peut avoir une opinion valable sur un sujet de pointe réservé à une élite ? Même le scientifique du dimanche reconnaîtra qu’il n’a pas assez d’éléments pour réchéflir. Les opinions étant arasées au même niveau, tout le monde peut s’exprimer et on arrive à la cacophonie, laquelle semble être un objectif de ce genre d’article.

    Tout cela en supposant que cet article sur l’ia contienne du vrai. Si c’est le cas, le point intéressant est la structure électronique de leur "neurone" (mais faudrait déjà que je sache comment marche un microprocesseur).

    La science grand public enfreint la logique élémentaire qu’elle est censée incarner en sautant plein d’étapes de réflexion...On en est réduit à croire ceux qui ont acheté les journaux. Et là ce n’est plus de la science.

    Quand la nasa grand public indique, par sa main droite, dans le ciel, un progrès chimérique, elle retire de l’autre main, de l’école, le bon vieux savoir traditionnel qui a fait ses preuves. Idem avec la silicone valley grand public.

     

    • Ayant étudié l’intelligence artificielle dans une école universitaire réputée, il m’est possible de vous aider à mieux comprendre quelques éléments à votre réponse. Par le passé, il m’a semblé logique d’intervenir sur le sujet pour apporter les problèmes et les limites de l’ia.

      C’est une structure artificielle, physiquement c’est un ensemble de micro-processeur, c’est-à dire, des centaines de millions de micro transistors qui font passer le courant où interrompt ce dernier.

      Si le courant passe le code est 1, s’il ne passe pas le code est 0. Cela nous donne un langage de communication qui nous permet de créer une interaction avec la machine et lui donner des instructions. (Code binaire)

      Les composants des transistors sont en silicium, c’est la matière la plus abondante de la planète après l’oxygène. Ce qu’il signifie que nous pouvons construire un cerveau neuronal de la taille de la planète grosso modo.

      Ensuite, intervient les codeurs qui développent des programmes, pour ce faire, ils envoient des signaux 1 et 0 qui sont convertis dans divers autres langages (hexadecimal, etc ...).

      Néanmoins, la machine sans ces instructions ne peut rien faire, car elle n’est pas vivante. Par contre, si j’ordonne à la machine de ne pas s’éteindre et que je lui donne des algorithmes pour qu’elle reste allumée tant qu’il y a du courant, alors elle obéira.

      A présent, si la machine prend une décision seule, c’est une illusion, une machine ne prend aucunes décisions seule, car ce sont des instructions fournis par un code développé par un ensemble de développeur.

      Donc la limite de l’intelligence artificielle se limite à celle de l’homme. On peut donner une illusion d’intelligence mais il nous est impossible de créer une conscience artificielle car nous ne savons tout simplement pas ce que c’est précisément.

      Pour terminer, si nous arrivons à mettre du bilogique dans la machine et qu’un jour, cette machine prend une forme de conscience, alors comme dit il y a plusieurs années, ce n’est plus une machine mais autre chose. Et ce jour n’est ni arrivée et ni souhaitable car d’après tous les scénarios que j’ai élaboré, cela provoquerait des conflits majeurs entre notre espèce et une espèce artificielle.

       

      • Et si ce n’est plus l’homme mais le robot lui même qui fabrique son IA ?

        Le robot a un avantage sur l’homme aujourd’hui qu’il n’aurait pas eu il y a 40 ans : Internet. Il est donc capable, si on lui donne les algos pour le faire, de compiler toutes les sources d’informations du monde entier sur un sujet en quelques minutes, voir secondes. C’est exactement ce que fait Google. Il est donc largement supérieur à l’homme. En lui donnant des facultés de chercheur, qu’est-ce qu’il l’empêcherait de réaliser des millions d’expériences/simulations et faire avancer sa propre intelligence lui même en créant d’autres algorithmes ? Imaginez sa vitesse d’apprentissage ? En quelques heures, il pourrait devenir un super scientifique, à l’aise dans plusieurs matières...


    • @Pseud



      Il est donc largement supérieur à l’homme. En lui donnant des facultés de chercheur, qu’est-ce qu’il l’empêcherait de réaliser des millions d’expériences/simulations et faire avancer sa propre intelligence lui même en créant d’autres algorithmes ? Imaginez sa vitesse d’apprentissage ? En quelques heures, il pourrait devenir un super scientifique, à l’aise dans plusieurs matières...




      Non, un programme d’IA est très inférieur à l’homme puisque c’est l’homme qui le crée et non l’inverse...
      L’IA est dépourvue d’intelligence et de conscience. Par conséquent, il n’y a aucun risque qu’un robot décide quoi que ce soit qu’il n’ait pas été programmé pour faire. Il est très naïf de penser qu’un programme d’ordinateur pourrait devenir un scientifique !


    • Pourriez-vous indiquer où vous situeriez la différence entre la description que vous faites d’une intelligence artificielle, et la description que l’on pourrait faire d’un algorithme classique ?


  • Ce qui est bien en cas de révolte des machines, c’est que tout le monde y passera : vieux, riches, pauvres, noirs, blancs, puissants ou pas,...tout le monde servira de batterie organique pour nos maîtres machines !


  • Il est temps de relire l’œuvre prémonitoire d’une certaine Mary Shelley semble-t-il.


  • Les films de science fictions depuis les années 70 sont des précurseurs de ce qui va nous arriver à tous dans les prochains siècles.


  • lol l’ia
    c’est plus la faute de kerviel si la sg a perdu des milliards, c’est l’ia qui a reagi de facon incomprehensible.
    Le robot a 70 millions qui se plante et se crashe,c’est pas une connerie de la nasa, non c’est l’IA qui a pris une decision incomprehensible. C’est pas un truc mal programme non,c’est de l’INTELLIGENCE Artificielle qu’on est trop con pour comprendre.
    Ce que je sais moi avec ma pauvre intelligence humaine,c’est que c’est moi qui vais payer les pots casses comme d’habitude...


  • #1876495

    Cette article avec aucune référence scientifique est ridicule. C’est au mieux des fantasmes et des masturbations intellectuels de scientifiques repris au premier degré et sans recul par des journalistes incultes et avides de scoop et autres buzz.
    J’ai un doctorat dans ces domaines là. Tout ça n’a rien à voir avec de l’intelligence, c’est du bricolage ingénieux avec des maths, des statistiques et des bases de données. C’est l’homme qui choisi quels critères (vecteur d’observation) sont extraits du phénomène ou de l’objet à classifier pour la prise de décision. C’est aussi l’homme qui décide du jeu de données d’apprentissage qui sont des données auxquelles les résultats de décision ou classification désirés sont donnés aux algorithmes d’apprentissage.

    Mathématiquement, on est très limité pour les algorithmes d’apprentissage, car souvent, les fonctions de décisions sont non linéaires et très complexes, il n’existe aucune résolution mathématique, il faut les traiter comme des problèmes d’optimisation où on cherche à réduire la valeur d’une fonction coût. Or il n’y a pas de solution unique et uniquement des résolution numériques par des approche de calcul itératif. Il faut voir la fonction de décision comme une surface dans un espace à N dimensions où N est souvent assez grand et où on promènerai un curseur de manière futées en suivant les pentes les plus fortes pour arriver au plus vite dans un creux (c’est à dire la valeur minimum de la fonction de coût). Le problème c’est qu’il y a de nombreux "creux" et qu’on n’est pas forcément tombé dans le plus bas en se "baladant" dessus avec l’algorithme de recherche du minimum de la fonction. De plus le résultat dépend du point du plan où on démarre car on peut tomber dans un autre creux avant.

    Par cette exemple de vulgarisation, je ne donne pas une idée de tout ce champ de recherche, mais je pense que je fais saisir tous les détails d’ordres pratique qu’on rencontre en faisant un "bricolage artificiel pas trop con" qu’ils appellent "intelligence artificielle".

    Donc pour revenir à la question de départ, évidemment quand on a des fonctions qu’on n’est incapable de résoudre mathématiquement, qu’on résout de manière numérique et itérative, sans assurance d’obtenir le vrai résultat optimal, qu’on est incapable de savoir si on choisit le bon vecteur d’observation, en sortie, on obtient un résultat imprévisible, mais pas parce que la machine est intelligente, mais parce qu’on est trop con.


  • "...Soudain, le véhicule se dirige vers la droite, longe une falaise, marque un temps d’arrêt puis se jette dans le vide et s’écrase 400 mètres plus bas..." le moins que l’on puisse dire c’est que ça a l’apparence d’un suicide.

    La dernière pensée du "Rover" le plus classe de l’univers : " Quel univers de m..de ! ". Ça ne présage rien de bon.

    Pax

     

  • Pour le coup c’ est la connerie de l’ homme qui n’ est pas artificielle . Quand comprendra-t-il que c’ est le désir de contrôler et d’ exploiter la nature qui le mène a sa perte ? Les progrès scientifique et technologique ne mènent qu’ a la destruction et loin d’ améliorer l’ existence humaine , ils complexifient et perturbent l’ ensemble de la création et de tous les êtres vivants . La vie est faite pour être simple et avec de hautes pensées pas pour être esclave, dépendant , et morose . Cette folie démoniaque ne produit que frustration et détresse . Le matérialisme et l’ athéisme sont la cause du délire humain , se croire le possesseur et le jouisseur de ce qui nous entoure est une maladie mentale due a l’ arrogance de se prendre pour Dieu tout en niant son existence .


  • Il n’y aura jamais d’ IA capable d’éradiquer l’humanité, pour une seule raison : "The Chinese room" ( la chambre Chinoise ).

     

  • C’est un algorithme du site web LCP qui a fait revenir Haziza sur la chaîne...Personne n’a rien pu faire.


  • L’IA a mis fin à ses jours, quoi de plus normal quand on a compris l’arnaque du système.

     

  • J’aimerais apporter un sujet annexe à ma précédente analyse sur le sujet. Il arrive souvent de constater que bons nombres d’internautes s’égarent sur des sujets de base qui en principe ne devraient pas susciter la moindre polémique.

    Je donne un exemple d’analyse pour expliquer une mécanique de constatation de faits.

    Le monde minéral existe,
    Le monde végétal existe,
    Le monde des insectes existe,
    Le monde animal existe.

    Ces 4 mondes existent et dans l’ordre cité au fil du temps. Maintenant, une question ou deux, est-ce que le monde minéral est doté d’une conscience ? Non. Est-ce que le monde animal existerait sans les autres mondes ? Non plus. Mais l’inverse oui, le monde minéral n’a pas besoin de la vie pour exister car il est éternel. Etc ... si vous avez rien compris, vous devez d’abord vous dire qu’il est essentiel de partir de constat scientifique et de bon sens pour ensuite vous poser des questions. Si vous partez sur de mauvais postulats, les questions qui se suivront ne donneront que des mauvaises réponses. Donc si je vous dis que le fer et l’électricité ne font pas un être vivant, cela signifie qu’un ordinateur ne peut pas se doter d’une conscience animale. Car la machine n’étant qu’un ensemble de minéraux, elle n’est donc pas vivante et ne peut donc pas développer de conscience animale voire humaine si l’on veut. Donc à l’instar des anciennes croyances païennes qui mettaient une conscience au monde minéral, tout comme la mythologie romaine qui disait que la lune était une déesse etc, n’était qu’une croyance impériale car nécessaire pour appliquer des politiques de l’époque. Aujourd’hui, pareil, l’Empire veut vous faire croire qu’une machine minérale peut avoir une conscience humaine. Faux. C’est de l’obscurantisme et cela n’est bon que pour formater les esprits à des fins de capitalisme technologique voire technocratique selon l’agenda de l’Empire. Donc ne tombez pas dans le piège qu’un enfant peut éviter. Le monde minéral reste minéral et l’illusion qu’il est vivant n’est qu’une illusion. Vous êtes vivant, une machine ne l’est pas. Et pour savoir ce qu’est un être vivant, je vous retourne à vos premiers cours de biologie. Fin de la démonstration et maintenez un schéma de pensée logique pour l’ensemble des sujets et pour votre vie et votre carrière professionnelle également. Car pour développer une civilisation durable et stable il faut un esprit sein et Saint sinon on tombe dans la décadence et la violence comme c’est le cas ailleurs. Salut.


  • Mais c’est ce qui se passe déjà avec les ordinateurs simple chez soi. Ils installent une appli puois d’un coup pouf une mise à jour se déclenche, il te demande de valider, ouvre un navigateur. Tu refuse pouf "etes vous sûr ? vous ne pourrez plus..."
    Tu refuse...
    Tu ne peux plus...
    Puis en le faisant pouf sans même de description de ce que ça va faire paf ca installe des mises à jour de tel ou tel application en desinstalle une autre se met automatiquement en application par défaut en jarte une autre, décrête que celle ci est un virus et la boycotte direct sans même prévenir...

    Android meme sauce, parfois tu veux desisntaller un truc pouf non il veut pas alors que c’est un truc tu utilise jamais, sans compter les fichiers reliques qui restent en traces ici et là sur le disque alors que tu desinstalle et pouf un jour tu vois un message...."vous aviez un programme "untel" destiné pour lire ce fichier, voulez vous le réinstaller". et sans même cliquer oui, pouf le truc peut s’ouvrir avec le logiciel que vous aviez desinstallé l’année d’avant !

    Alors je reconnais qu’une fois ça m’a vraiment sauvé la mise....

    Seulement pourquoi un fichier prend le dessus sur la décision ? C’est un peu le traité de Lisbonne...je te demande ton avis mais je m’en fout.
    Quand je brule un papier il ne reste que les cendres et les cendres je les jette, je ne les conserve pas.

     

    • Concernant les applications parasites comme je les appelle, c’est qu’elles ont été programmé dans ce sens. C’est un principe de guerre commerciale qui est appliqué et qui provient du marketing parasite. Ces firmes exigent aux sociétés informatiques de développer des programmes qui restent présents tant que la Loi le permet (ou pas) au détriment de votre volonté. Ensuite, ces firmes utilisent des données volées pour établir des études épidémiologiques de la population pour détecter des services et désirs à satisfaire pour alimenter le capitalisme. Mais bien souvent cela est opéré de manière illégale et vu que la magistrature n’est pas informé de ces sujets, ils en profitent partout en Occident. Le jour où la magistrature va se doter de compétences en la matière, cela pourra certainement mettre un frein à ces sociétés voyous. Ils le savent et en profitent de cette faiblesse et bien nombre de sociétés privées sont en lien avec l’Etat profond pour se rendre des services. Il est à prévoir que probablement tout ce que vous avez écrit et lu sur Internet est stocké dans un ensemble de serveur et que vous devrez utilisé un langage crypté pour pouvoir communiquer anonymement et c’est même recommandé. Et que le jour où l’on aura la main sur ces serveurs, il suffira de les détruire physiquement. Pour les applications dont vous parlez, il existe aussi et j’ignore à quelle échelle, des applications fantômes, ce sont celles-ci qui me font froid dans le dos. Elles s’installent à votre ainsu et servent des intérêts obscurs et il est probable que la quasi totalité des appareils qui fonctionnent sur windows en soient victimes. En Russie et ailleurs, certains pointent du doigt des services de deux états particulièrement qui utilisent des appli fantômes pour espionner des pdg, ceo, traders, politiciens, etc ... donc si vous avez un poste important, utilisez le moins possible les appareils qui disposent de caméras et de micros et évitez les tv intelligentes de certaines marques d’Asie qui stockent tout ce que vous faites pour ensuite les restituer à leurs actionnaires qui sont tout sauf asiatique. En somme, évitez de faire l’amour à votre femme devant ce genre de tv si vous êtes membre adhérent chez er, car en 2 cliques ils vous voit sur votre canapé. Et là pour le coup, en 2018, ce n’est pas un fantasme mais une réalité, même les gros trafiquants en tout genre ignorent qu’ils sont fichés grâce à leurs tv qu’ils viennent de s’offrir.


  • https://fr.wikipedia.org/wiki/Jihad... Cet événement pourrait avoir été nommé en référence à Samuel Butler, un contemporain de Charles Darwin, qui, après la publication de L’Origine des espèces, écrivait ceci en 1863 :
    « Qu’arriverait-il si la technologie continuait à progresser plus rapidement que l’évolution des règnes végétal et animal ? Nous remplacerait-elle aux commandes de la Terre ? Comme le règne végétal s’est lentement construit à partir des minéraux, et que le règne animal s’est, lui, construit à partir du règne végétal, un nouveau règne a brusquement surgi ces dernières années, règne que nous voyons dans sa période préhistorique… À chaque jour qui passe, nous lui donnons de plus en plus de pouvoir et de moyens d’auto-contrôle, ce qui sera éventuellement l’équivalent de notre intellect1. »
    « Tu ne feras point de machine à l’esprit de l’Homme semblable ».


  • C’est inquiétant mais le jour où ce n’est plus l’homme qui fabriquera le robot mais le robot lui même, là, il sera carrément trop tard. On comprendra plus rien, on aura de vraies boites noires en face de nous dont la complexité sera exponentielle et tellement rapide qu’on aura pas le temps de tout arrêter.


  • #1876618
    le 09/01/2018 par C’est de plus en plus pire .
    Et si l’intelligence artificielle était déjà hors de contrôle ?

    Faudrait -y qu’il y ait d’abord à la base de l’intelligence naturelle chez les humains ,ce qui n’est pas évident ..



  • Aujourd’hui déjà, des systèmes d’IA détectent lorsqu’un humain tente de modifier leur comportement et font parfois tout pour rejeter cette intervention et la contourner si elle entre en conflit avec l’objectif initial de l’IA. Il faut agir de manière subtile et rapide pour que l’IA croie qu’elle prend elle-même toutes les décisions.




    L’IA ne croit rien du tout parce qu’elle est totalement dépourvue de conscience. C’est juste un programme qui fait ce pourquoi il a été programmé et rien de plus.

     

  • Une séquence vue dans un film, déjà, vieux de SF.
    Un groupe de scientifique chercheur qui à conçu un super ordinateur s’affaire autour de l’appareil. C’est un premier essai et on vient juste de brancher le formidable engin informatique. Pour vérifier son bon fonctionnement les savants décident de lui poser une question...Et après réflexion, le scientifique en chef se décide, en pianotant, de lui en poser une...
    Question ; est ce que Dieux existe ?
    L’appareil se met à vibrer et , pendant quelques secondes, se met à faire un bruit d"hélice de ventilo, puis sur l’écran s’affiche sa réponse...
    Réponse ; A partir de maintenant....oui....


  • "L’IA, ce sont des algorithmes extrêmement puissants, capables de travailler avec des bases de données gigantesques pour apprendre, et prendre ensuite les décisions les plus pertinentes possible."

    Et d’où viennent ces bases de données selon vous ? De tout ce que l’humanité essaime tous les jours sur la toile, les humeurs, les photos, les discussions. Merci qui ? Merci les ’GAFA’ ! ...


  • L’IA a été inventée par l’humain. L’IA peut effectivement prendre des décisions incompréhensibles à l’humain. Pour parer à celà, il suffit d’implémenter dans le code une sorte de ’morale’ qui pourrait contrecarrer une décision incompréhensible à l’humain et prise par l’IA, mais surtout qui lui serait présentée comme venant de sa propre décision (celle de l’IA). L’ancêtre de l’IA est ce qu’on appellait dans les années 60-70 un "système expert", la différence étant qu’on a beaucoup plus de puissance de calcul et de stockage à notre portée aujourd’hui.Google est en avance car il a bluffé toute la planète en se constituant une gigantesque base de données (texte, photo, video, ...) juste grâce à nos recherche via le moteur google. Toutes les recherches sont stockées, analysées, triées, hierarchisée et constituent maintenant la "nourriture" pour faire de l’IA. Leur première API (Application Programming Interface, autrement dit de quoi coder) est nommée TensorFlow (Elle permet de reconnaitre des images, des sons, etc ...). Vous constaterez que de grosses société utilisent ce système : https://www.tensorflow.org/


  • Et si le crétinisme synthétique était hors de contrôle ?

    Comme dirait France Gall : débranche tout !


  • Ce que je suis pressé de voir, c’est la réaction outrée des ingénieurs qui auront pondu des robots tueurs hors de contrôle et/ou manipulés à des fins de guerre.

    La même réaction que pour la bombe atomique, "Si j’avais su que mes travaux seraient utilisés pour ça, je ne l’aurais pas fait". And my ass, it is chicken ?


  • Plus d’élec Et c’est réglé


  • Je comprends pas bien le foin que l’on fait sur la super méga-giga géniale IA.
    Ne suffit-il pas de couper le courant pour que la Déesse IA ferme son clapet ? Ou n’ai-je rien compris au film ?
    N’est-il pas halucinant que l’on ne craigne pas (plus !) le Créateur de toute chose, par contre, on se prend à avoir peur de l’IA.
    Est-ce moi qui suis folle ou tous ces pseudo-chercheurs de merde ?!


  • Il y a beaucoup de confusion entre IA et algorithme. Il ne me semble pas dans ce qui est dit, hormis d’imaginer dans ce qui n’est pas dit, qu’il s’agisse à proprement parler d’une vraie IA. Il n’y a pas une conscience dans ces "IA", et elles ne font qu’"apprendre" (le mot est fort) ce qu’on leur fait ingurgiter, un peu comme un algorithme : il fait ce qu’il lui est dit de faire. Les IA n’étant pas consciente elles sont incapables d’apprendre seule, donc elles ne sont pas à proprement parler des IA au sens strict. Ce sont des programmes évolués, ni tout à fait algorithmique, ni tout à fait neuronaux (simulation de réseau de neurones). On est donc encore assez loin d’une vraie IA.
    A noter que le "machine learning" est la base classique d’apprentissage des réseaux neuronaux complexes, où on y modifie les étapes d’analyses pour avoir en sortie quelque chose de cohérent, mais il existe maintenant le "deep learning", où le process du réseau neuronal est en gros "simplifié" (certaines étapes du machine learning sont court-circuités) mais on y fait analyser ce réseau neuronal une quantité astronomique de données pour voir ce que cela donne. C’est ce qu’a déjà fait Google en matérialisant ce que "pense" un super-calculateur en deep learning : https://1.bp.blogspot.com/-XZ0i0zXO...

     

    • @Mich
      Les IA n’étant pas consciente elles sont incapables d’apprendre seule,

      Je suis globalement d’accord avec vous. Mais pourriez-vous dire ce que vous entendez précisément, concrètement, lorsque vous dites "apprendre seule" et pourquoi cela exigerait que l’IA soit consciente.


    • Un ventriloque qui fait parler une poupée donne l’illusion que la poupée est vivante, pense et ressent. Tandis que tout le monde sait que la poupée n’est pas vivante car c’est un objet outil.

      Le développeur donne l’illusion que la machine est vivante également. C’est plus impressionnant qu’une poupée mais cela reste un objet outil.

      Cela repond-il à votre question ?

      La conscience animale et humaine qui est plus développé ne peut-être enseignée car c’est lié au monde biologique animal, une plante ne pense pas, une pierre ne pense pas.

      Il est impossible qu’une pierre dispose d’une conscience. Donc votre PlayStation ne développera jamais de conscience.


    • @ Lelutin
      Marci, mais vous avez argumenté comme si ma question avait concerné les conditions d’existence de la conscience. Mais ce que je demandais, c’est pourquoi la capacité d’apprendre seule serait réservée à ce qui possède une conscience.


    • Pourquoi une machine ne pense pas ? A moins que l’on lui apprenne ce que c’est de penser de manière imagée et non linéaire et d’y associer des émotions et un ensemble d’autres facteurs qui ne peuvent s’exprimer sous forme numérique mais hormonal, sans compter les innombrables facteurs liés à la pensée c’est impossible sans disposer d’un appareil biologique complet. Ne pas oublier ce que disaient les anciens, l’esprit, l’âme (la conscience ?) Et le corps ne font qu’un et sont indissociables.

      C’est une question à laquelle un anatomiste et un biologiste pourraient mieux répondre avec l’aide d’un expert en neuro-sciences. Sans coscience, aucune réflexion sur l’environnement et donc aucun effort d’adaptation car aucun besoin. Les minéraux sont des objets non vivants et éternels donc ils n’ont pas l’utilité de développer quoi que ce soit pour exister. Tandis qu’une cellule vivante n’est pas éternelle et cherche donc un moyen d’exister en s’adaptant et en se reproduisant. A mon avis, la réponse scientifique devrait se rapprocher de ce qui est ci-dessus.

      Pour résumer, l’appareil fait de minéraux de dispose pas de conscience, sans cela, il n’y a aucune auto-réflexion spontanée et donc aucune introspection puisqu’il n’y a aycun besoin à une pierre d’être consciente

      Si l’appareil fait une recherche sur la toile, ou calcul une formule, ou s’allume et s’éteint c’est parce qu’on lui a ordonné.

      Une pierre ne pense pas, si je lui met des roues et une micro-puce, elle ne fera que ce que je lui dicte de faire.

      Pour exemple, le plus puissant des ordinateurs existant devrait selon la théorie d’Alexandre avoir atteint la synchronicité depuis un moment déjà puisque les super ordinateurs disposent d’un niveau de calcul hors du commun et inégalé et pourtant ces machines ne pensent pas.

      En conclusion, sans rentrer dans des algorithmes complexes dans lesquelles il m’était demandé de créer en cours et qui était impossible, comme créer le hasard, un appareil électronique n’effectue aucun calcul sans que l’on lui ai apprit car il ne dispose pas d’un cerveau reptilien, mamalien et du néo-cortex. Donc il lui est impossible sans une biologie complète de saisir le sens d’une émotion qui est importante dans le développement animal et surtout humain. C’est grâce à l’ adrénaline et notre système cardiaque que nous sommes capable de fuir un prédateur ou de tomber amoureux et de fonder un foyer. Et pourtant il n’y a aucun algorithme dedans, c’est de la chimie pure.


    • Je crois avoir peut être compris notre malentendu.
      Pour vous, apprendre seul, c’est forcément faire comme un cerveau humain qui apprend seul. Et pour vous cela suppose automatiquement pensée, et donc vous considérez la pensée consciente, et logiquement vous concluez sur la nécessité de la conscience.
      Pour ma part, je crois savoir que notre cerveau a aussi toute une activité dont nous ne sommes pas conscients. Nous apprenons beaucoup de choses par le simple effet de la répétition d’une expérience, sans avoir pour autant mis en branle un processus de réflexion consciente.
      Tout le monde n’étant pas forcément convaincu de cela, je n’insisterai pas avec cet argument. Il y en a un autre :
      Considérez une IA avec suffisamment de puissance de calcul, et suffisamment de datas qui lui sont enfournées. Cela suffit pour qu’après avoir ingurgité les datas, l’IA ai augmenté ses capacités d’analyse ou de discrimination. Et bien, dans ce cas, il y a eu apprentissage, sans intervention humaine (mis à part le remplissage en datas). La machine a appris seule.
      Et par ailleurs nous sommes d’accord qu’une telle machine n’a pas de conscience.

      Voila pourquoi je demandais la raison pour laquelle "apprendre seule" aurait nécessité la conscience.


    • Jp

      Apprendre par répétition signigie conscience ou inconscience dans l’acte en soi. L’organisme animal est doté de réflexe inné et qui s’adapte suite à des répétitions exécutées de manière conscientes ou non. Dans tous les cas, cela signifie que s’il y a adaptation c’est qu’il y a un besoin de survie derrière et qui dans ce cas-ci provient du cerveau reptilien (inconscience).

      Un ordinateur fait de minéraux n’a pas de cerveau reptilien et donc n’a aucune utilité d’apprendre seul par lui-même sauf si on lui dit de le faire car ce n’est pas un être vivant. Si on lui dicte d’expérimenter une situation pour trouver une solution en lui fournissant les formules pour y arriver, vous n’arriverez qu’à immiter un être vivant et pas en produire un. Il reste un outil développé rien de plus et se limitera à ça.

      Dans tous les cas, il nous faut un biologiste, un anatomiste, un spécialiste en neurosciences , un zoologiste et des mathématiciens de haut vol pour arriver à étudier la question, voire même un anthropologue pour arriver à se rapprocher d’une réponse scientifique car c’est un objectif éternel pour certains d’entres-nous de comprendre ce que c’est la conscience et c’est une mission vraiment très difficile.


  • En même temps, il y a de plus en plus d’abrutis sur cette planète, notamment dans cette période d’effondrement de l’occident ! Ce n’est donc pas pour rien que certains couillons cherchent à remplacer tout cela par de l’intelligence artificielle, il faut bien en trouver quelque part de l’intelligence !


  • #1876880

    Ben.. y’a qu’à débrancher l’bazar.


  • Marrant comment les gens embrayent sur ’’l’intelligence artificielle’’ en parlant du Mars-rover alors que l’on a jamais été sur la Lune (et jamais envoyé de robots sur Mars). C’est juste un technicien du studio de la Nasa qui s’est tapé une nana sur la console de commande et oups, le bidule à 4 roues s’est crashé dans le désert du Nevada. Il y a un épisode là-dessus dans la série TV "The Big Bang Théorie’’. C’est tout de la fiction.

    Revenez sur Terre les gars, ailleurs, ça n’a jamais existé.


  • Ne pas confondre intelligence logique, intelligence créatrice, intelligence critique...
    Seule la première peut aller très loin en utilisant des bases de données gigantesques, mais... finies.
    Je croirai que la machine peut remplacer l’homme le jour où un traducteur sur internet me donnera un texte en français parfait. Maintenant les apprentis sorciers peuvent en effet se brûler les doigts avec un incendie qu’ils ont déclenché...


  • #1877175

    2001 Odyssée de l’Espace
    "Ouvre la porte Hal ! " "Je ne peux pas, je suis désolé Dave , je sais que tu veux me détruire "


  • Il faut écouter Lê de la chaîne youtube Science4All sur le sujet, il a fait une série de vidéo sur la démocratie et il en commence une sur l’intelligence artificielle. C’est passionnant et très bien vulgarisé.
    C’est francophone et en format assez court.


Commentaires suivants