Publié le

Développements actuels

Nous avons vu dans le chapitre précédent les événements qui ont marqué l’évolution de la réalité virtuelle et de la réalité augmentée. Les points saillants de cette évolution sont principalement issus du domaine industriel. Dans ce chapitre, nous abordons les travaux de recherche actuels et les technologies qui s’y rapportent. Nous faisons le lien entre les éléments de l’historique et les périphériques actuellement disponibles sur le marché. Ils seront abordés en détail dans le chapitre suivant. Ce chapitre offre une vue d’ensemble sur les recherches et projets nouveaux. Nous illustrons les secteurs académiques et industriels qui sont en pleine effervescence à l’heure actuelle. Nous expliquons également le matériel utilisé dans le cadre de ces recherches. Cet article se compose de huit sous-sections :

Psychologie et neurologie

En Août 2015, M. Cogné et associés présentent l’intérêt de la réalité virtuelle dans l’étude neurologique des déplacements spatiaux (I.E dans notre monde physique) (voir ICI). Le déplacement spatial d’un individu est un processus complexe. Un environnement digital contrôlé offre de nouvelles voies de recherche empiriques. Cela concerne tant la compréhension de ce processus à l’échelle neuronale que l’élaboration de nouveaux traitements. La désorientation spatiale est un trouble fréquent chez les patients souffrant de déficiences neurologiques. La réalité virtuelle permet de mieux comprendre quelles sont les causes à l’origine de cette désorientation. L’article présente une revue de la littérature sur les sujets médicaux en lien avec l’étude des déplacements spatiaux.

Parallèlement, les travaux de D. Freeman ont pour objectif d’introduire un nouveau paradigme dans le domaine de la psychologie. Freeman cherche à étudier et à traiter la schizophrénie au travers de la réalité virtuelle (voir ICI). L’article a été publié en juillet 2016. Pour comprendre cette pathologie, il est nécessaire de comprendre les interactions du patient dans son environnement social. L’interprétation faussée du comportement des personnes par le patient est nécessaire pour comprendre son sentiment de persécution. En effet, selon Freeman, les occurrences et l’intensité des hallucinations sont affectées par le contexte social. Des symptômes négatifs tels que l’asociabilité et l’anhédonie (I.E. incapacité à ressentir des émotions positives lors d’expériences de vie considérées comme autrefois plaisantes). Le repli sur soi et l’évitement des gens sont fréquents dans le trouble de la schizophrénie. Il en résulte une isolation sociale pour le patient. L’utilisation de la réalité virtuelle fournir un environnement informatisé sous contrôle. L’expérience interactive et immersive de cette technologie fournit un nouveau moyen de compréhension, de recherche, mais aussi de traitement. D’autres études visent à mieux comprendre les maladies mentales à l’aide de la réalité virtuelle (voir ICI, ICI et ICI).

En Juin 2016, Seung-Wook Kim et Joon-Kyung Seong utilisent un casque oculus rift pour visualiser la structure vasculaire d’un cerveau humain. L’idée est de pouvoir visualiser ces données dans un environnement tridimensionnel (voir ICI). La structure vasculaire est à la base présentée comme une structure à trois dimensions projetée sur un écran d’ordinateur à deux dimensions. Dès lors, il apparaît plus intuitif de visualiser cette structure directement dans un espace tridimensionnel. Ce moyen de consulter les données les rend plus expressives et plus rapide à comprendre pour le corps médical.

Actes médicaux

En 2013, la société Evena Medical a commercialisé des lunettes intelligentes baptisées « Eyes-on » et capables de révéler les veines sous la peau . Elles ont été conçues à partir des lunettes Epson Moverio que nous exposons dans la suite de cette série d’article. Eva Medial a incorporé aux lunettes deux périphériques supplémentaires pour rendre possible cet exploit. Premièrement un système d’éclairage multi spectral basé sur l’infrarouge pour détecter les vaisseaux sanguins. Deuxièmement, deux caméras stéréoscopiques filment en continu la vue de l’utilisateur pour projeter cette image enrichie de la vue des veines sur les lentilles de l’utilisateur. Ces lunettes permettent au corps médical de piquer avec plus de précision. Cela diminue les pertes de temps pour les professionnels et les désagréments pour les patients (voir ICI et ICI). La figure ci-dessous est une illustration de la vue utilisateur produite par les lunettes Eyes-on. La source originale de cette photo est disponible ICI.

evenaMedical

La réalité augmentée a été testée avec succès pour la guidance des actes chirurgicaux. En Aout 2015, Dimitrios Ntourakis, Ricardo Memeo et associés expliquent dans un article disponible ICI une application de guidance chirurgicale pour l’ablation de métastases colorectales résiduelles. Les auteurs présentent un montage expérimental permet au chirurgien d’avoir une vue de la zone opérée avec les repères anatomiques en vue superposée. L’ensemble de ces informations est affiché sur un écran placé en face du chirurgien. Les images affichées sont capturées à l’aide d’une caméra pneumatique et traitée par un technicien avant d’être affichées au chirurgien. L’illustration ci-dessous représente le montage effectué. Elle est issue de ce document. Le point critique de la technologie est la précision de la superposition du traitement informatique sur les images capturées. Les auteurs évoquent une précision de 5 millimètres avec le montage effectué. Le processus de traitement des images nécessite l’intervention d’un opérateur humain. Les auteurs ne proposent pas d’algorithme pour effectuer un traitement automatisé. Le processus s’avère encore trop complexe. Une démonstration vidéo de ce procédé est disponible ici.

operationChirurgicale

Tests et prototypages

La réalité virtuelle peut être utilisée comme un moyen simple de tester des dispositifs d’aide à la sécurité. C’est ce que Giovanni Cosma, Enrico Ronchi et Daniel Nilsson illustrent dans un article disponible ICI. L’article date de janvier 2016. Ils utilisent un casque de réalité augmentée oculus rift pour recréer un scénario d’incendie dans un tunnel. Dans cet environnement artificiel, des lampes LED sont placées sur le sol afin de guider les personnes vers les sorties. Le but de l’étude est de déterminer la position de ces lampes la plus adaptée. La meilleure position est celle qui maximise les chances de survie. Un ensemble de trois scénarios sont créés pour illustrer trois dispositions différentes. Pour cela, les auteurs utilisent un ensemble de mesures quantitatives. Parmi celles-ci le temps nécessaire aux participants pour sortir. L’expérience menée illustre que la réalité virtuelle peut être utilisée pour collecter des données sur le comportement humain. C’est un moyen sans risque et peu coûteux de recréer des scénarios complexes ou impossibles à mettre en oeuvre dans notre monde physique. Il permet aussi aux participants de réaliser les tests sans aucun danger.

Éducation et enseignement

La réalité augmentée touche aussi le secteur des jouets pour enfants. En effet, ces jouets sont de plus en plus digitalisés. Or, ils jouent un rôle important dans l’apprentissage et le développement des enfants. Les jouets digitaux seraient plus avantageux que les jouets traditionnels. Ils offriraient un environnement plus créatif aux enfants. En Aout 2015, Rabia Yimaz expose dans cet article les intérêts de la réalité augmentée sur un public âge de cinq à six ans. L’auteur cherche à expliciter les comportements et l’atteinte cognitive des enfants qui sont en contact avec cette technologie. L’étude montre que l’interaction des enfants avec le matériel est un point crucial de l’apprentissage. Un mauvais design des applications et des erreurs de conception se traduisent directement par un désintéressement des enfants. Dans une telle situation, l’expérience d’apprentissage est faible pour deux raisons. Premièrement, la désorientation engendrée par le design. Les enfants ne savent pas quoi faire, car ils ne comprennent pas ce qu’on attend d’eux. Deuxièmement, la concentration nécessaire pour comprendre le design plutôt que la matière à apprendre. Ils passent plus de temps à comprendre le fonctionnement de l’application plutôt que d’assimiler une nouvelle matière. En revanche, lorsque l’interaction des enfants avec le matériel est intuitive, les résultats d’apprentissage sont meilleurs. Les enfants sont plus curieux et intéressés par les matières enseignées. L’auteur évoque l’utilisation de lunettes intelligentes en compléments des jouets digitaux. Nous expliquons en détail les différents types de lunettes intelligentes dans le chapitre suivant.

Déjà en 1998 Christine Youngblut présente dans cet article un état de l’art des applications de la réalité virtuelle et de la réalité augmentée dans le domaine de l’éducation. Cet article est à mettre en lien avec l’historique évoqué dans l’article précédent. Il coïncide avec l’apparition des premiers périphériques à destination du grand public. L’auteur présente ces applications comme de réelles avancées. La réalité virtuelle et la réalité augmentée peuvent être utilisées pour dépasser les limites physiques des institutions dans l’apprentissage. Elles offrent des environnements de tests sécurisés et peu coûteux. C’est particulièrement utile dans le cadre des travaux pratiques. Youngbult prend l’exemple suivant pour illustrer ses propos : « il serait imprudent d’autoriser des étudiants en ingénierie chimique à réaliser des expérimentations sur un site de production opérationnel sans qu’ils aient connaissance des processus sous-jacents. » C’est une question évidente de sécurité. Pratiquer ce type de manipulation dans un environnement virtuel est sans danger. C’est aussi une approche pédagogiquement plus riche que les cours de l’enseignement traditionnel. En effet, l’expérience d’immersion diminue l’abstraction des explications pour mieux se focaliser sur l’apprentissage des matières. C’est encore plus pertinent dans l’apprentissage de notions abstraites non perceptibles par les cinq sens communs. C’est notamment le cas des champs de force magnétiques ou gravitationnels voir encore le concept de radioactivité. Nous pouvons percevoir les conséquences de ces phénomènes, mais nous ne pouvons pas les visualiser naturellement. En avoir une représentation dans un environnement virtuel faciliterait l’apprentissage de ces concepts.

En outre, l’auteur présente le concept de classe virtuelle. Ce sont des espaces d’enseignement dématérialisés permettant à tout le monde de suivre un cours donné à distance par un enseignant. Le lieu où se trouve l’étudiant n’a pas d’importance. Ce concept est retracé par l’auteur comme existant depuis 1995 .Il le présente comme un nouveau paradigme d’enseignement qui ouvre la voie à un apprentissage tout au long de la vie. L’idée est de faire sortir le savoir hors des écoles et des universités pour le diffuser. Les « Massive Online Open Courses » actuels, abrégés MOOC, sont une conséquence des travaux poursuivis à cette époque. La réalité virtuelle se présente comme une continuité naturelle et possible des MOOC. Elle permettrait d’augmenter le degré d’immersion et de faciliter la représentation de concepts à apprendre. C’est un support appréciable dans la pédagogie. Par exemple, visiter un site historique pour un cours d’histoire, analyser la chute d’un objet avec la représentation des vecteurs de force pour un cours de physique, visualiser des espèces microscopiques pour un cours de biologie voir encore des applications de manipulation et d’entraînement tel que le projet VIEW de la NASA (voir ICI). Au vu de ces informations, une observation s’impose. Les avancées actuelles se placent en continuité des concepts déjà relatés dans la littérature durant les années 1990. Seules les avancées technologiques ont élargi l’éventail des applications pour la réalité augmentée et la réalité virtuelle. Les concepts sous-jacents sont restés les mêmes.

Mobilité

En Février 2016, Anton Fedosov et associés présentent une application de réalité augmentée destinée aux skieurs (voir ICI et ICI). Le Ski est une activité qui se pratique souvent en groupe. Les skieurs utilisent traditionnellement des cartes géographiques en papier ou montée sur tableau comme une aide à la décision. Il s’agit typiquement de savoir quelle route emprunter, où s’arrêter voir encore quels dangers éviter en cas de hors-piste. Les auteurs illustrent l’implémentation d’un système informatique permettant aux utilisateurs d’enrichir le contenu des cartes traditionnelles avec du contenu personnel. Ce projet se nomme SkiAR et repose sur les principes de la réalité augmentée. Il permet à un groupe de skieurs de partager du contenu sur une carte géographique commune. Le périphérique utilisé pour afficher la carte est un smartphone monté dans un casque. C’est le périphérique le plus adapté à cette application. Le smartphone remplit les besoins de mobilité sans fils et de positionnement GPS. Il n’est utilisé que pour afficher des informations. Le périphérique d’entrée est une montre intelligente smartWatch, les capteurs du smartphone sont utilisés pour collecter des informations sur les déplacements de l’utilisateur (E.G. vitesse et position). L’article ne précise pas si les utilisateurs voient uniquement leur environnement au travers de l’écran du smartphone ou d’une autre façon.

En Mai 2016, la société Skully Helmet lance sur le marché un casque pour les motards grâce à une campagne de crowdfounding. Le produit porte le nom de Skully AR-1 . Il est disponible pour une somme de 1499 $ USA. Le dispositif intégré permet d’afficher sur la visière du casque des informations telle que la vitesse instantanée ou encore un itinéraire guidé par GPS. Il permet aussi la gestion des appels téléphoniques. C’est une application qui assure confort et sécurité. En effet, un motard doit garder les mains sur le guidon et le regard sur l’horizon. Il est limité dans ses possibilités d’interaction. En conséquence, ce type de casque de réalité augmentée ne s’impose pas comme un simple accessoire divertissant mais bien comme un équipement susceptible de révolutionner le marché de la moto dans les prochaines années (voir ICI). La première photographie ci-dessous est une représentation du casque. La source originale peut être consultée ICI. Il est tout à fait comparable à un casque traditionnel. Tous les composants sont intégrés. Seule une légère circonvolution est présente sur la partie supérieure du casque. Elle intègre une caméra grand angle (I.E 180 degrés) qui rend compte au motard du trafic situé derrière lui. Cette technologie permet de combler l’angle mort des deux rétroviseurs. L’utilisateur dispose ainsi d’un rétroviseur virtuel grand format. La seconde photographie ci-dessous expose la vue utilisateur. Le coin inférieur droit de l’image évoque l’utilisation d’une application de navigation GPS par l’utilisateur. Sa vitesse est aussi indiquée. De cette manière, le motard accède à toutes les informations nécessaires dans devoir quitter la route des yeux.

skullyAR1

skullyAR1Vision

La vidéo promotionnelle du casque AR-1 est disponible ci-dessous :

Divertissement

Le projet « THE VOID » est un projet lancé par le milliardaire Ken Breshneider qui le décrit comme le parc d’attraction du futur. Il a pour objectif de recréer des environnements de jeux artificiels à taille réelle. Les utilisateurs sont plongés dans un monde virtuel construit par-dessus un environnement physique minimal. L’ensemble des sensations qui ne peuvent pas être recréées par la réalité virtuelle son ainsi fournies par l’environnement physique. Citons par exemple le vent ou le mouvement de recul d’une arme à feu factice. Les concepteurs parlent d’hyper-réalité. C’est un jeu vidéo grandeur nature. Une vidéo promotionnelle du projet est disponible sur YouTube :

 

Les deux photographies ici-bas sont respectivement des illustrations de l’environnement physique utilisé et de la vue utilisateur associée. Elles sont extraites de la vidéo promotionnelle. Elles permettent de mieux comprendre l’ensemble des technologies mises en ouvre. Outre le casque de réalité virtuelle, c’est un environnement étoffé de capteurs qui rend possible cette intensité d’immersion pour les utilisateurs. Nous n’avons pas trouvé de projets similaires dans nos recherches. Le projet « THE VOID » semble unique en son genre. Il met en œuvre des technologies complexes et coûteuses. Il se destine aux particuliers sous la forme d’une expérience à vivre.

theGridManualtheGridVirtual

Sur son site internet, l’entreprise propose déjà des tickets en ligne pour un premier jeu baptisé Ghost Buster Dimension. Le jeu est temporairement installé à New York et accessible pour un prix situé entre 49.75 $ et 57 $. C’est une offre conjointe à la visite du musée de Cire Madame Tussauds. L’entreprise réalise plusieurs partenariat afin de faire connaître ses offres commerciales. La page Facebook de THE VOID expose les dernières avancées du projet. On peut y trouver un ensemble de vidéo exposant les réactions des premiers utilisateurs.

De manière plus générale, c’est le secteur des jeux vidéo qui est le plus prolifique en ce moment. Des sociétés telles que Vive, Sony et Oculus VR conçoivent des jeux vidéo pour parfaire l’attractivité des casques de réalité virtuelle qu’ils ont respectivement fabriqués. Ils cherchent à étoffer l’ensemble de leurs produits et services. C’est une façon de maximiser l’expérience des utilisateurs avec ces périphériques. C’est pourquoi apparaissent de plus en plus d’application de divertissement à destination des casques de réalité virtuelle. Historiquement, ce secteur a toujours été riche en innovation. Au vu de l’historique, cet engouement pour le secteur des jeux et du divertissement est en continuité direct avec les développements réalisés pendant les années 1990 (voir ICI). L’ensemble de ces technologies seront présentées dans le chapitre suivant.

Optimisation des technologies actuelles

En 2016, les travaux de Charles Ruizhongtai visent le domaine de la reconnaissance sémantique liée à la réalité augmentée (voir ICI et ICI). Il s’agit de pouvoir reconnaître les éléments présents dans l’environnement de l’utilisateur. Par exemple, faire en sorte que le périphérique de réalité augmentée fasse la différence entre une chaise, un fauteuil, une TV voir encore une table. C’est une étape nécessaire pour augmenter le degré d’immersion des applications. La figure ci-dessous est une illustration du niveau d’immersion que rendrait possible une reconnaissance sémantique. Faire la différence entre les différents éléments du décor permet de disposer des éléments holographiques comme illustrés sur cette figure. Elle est issue de cet article.

hololensApplicationGame

De manière analogue, les travaux de Valeria Farinazzo et associés ont pour objectif d’étendre les fonctionnalités des périphériques de réalité virtuelle. Dans \cite{martins2016usability}, ils proposent d’étendre les fonctionnalités de visualisation d’un casque oculus rift au moyen de commandes vocales. L’article a été publié en juillet 2016. En effet, une fois plongé dans un environnement virtuel, il est plus aisé pour l’utilisateur de dicter des commandes plutôt que d’appuyer sur des boutons qu’il ne peut pas voir. Les auteurs présentent une application permettant de naviguer au sein de Google Street View. Leur application permet de convertir une entrée vocale en chaîne de caractères. Ensuite, ces données sont dirigées vers l’interface de programmation du logiciel Google MAP. Enfin, le casque de réalité virtuelle reçoit les données géographiques à afficher et modifie la vue de l’utilisateur en conséquence. Le montage expérimental est illustré à la figure ci-dessous. Elle est issue de cet article.

architectureCommandeVocaleOcculusRift

Discussion

L’ensemble des éléments présentés dans les sous-sections précédentes sont des applications de la réalité virtuelle et de la réalité augmentée. Elles illustrent la diversité des développements actuels tant dans le domaine de la recherche que dans les secteurs industriels. Les applications présentées dans les sous-sections précédentes s’inscrivent dans une perspective de développement plus générale. L’ensemble des applications peut être mis en lien avec les données d’analyse publiées par la société Gartner.

La société Gartner est une entreprise spécialisée dans le conseil et la recherche des techniques nouvelles et avancées. Son siège social est situé à Stanford aux États-Unis Chaque année, l’entreprise publie un rapport sur les nouvelles tendances technologique. Ce rapport contient un graphique nommé « Courbe de Gartner ». Cette courbe représente la tendance pour l’ensemble des technologies à la mode ou en développement pour une période donnée. Nous présentons à la figure ci-dessous la courbe de Gartner pour Juillet 2015. La source originale est consultable ICI. Elle nous permet de mieux comprendre la trajectoire des développements actuels. Cette courbe se décompose en cinq sections. Premièrement, le lancement des technologies. Il s’agit des technologies en cours de prototypage et d’étude. Elles ne sont pas encore disponibles sur le marché. Deuxièmement, un pic des attentes surestimées. Une médiatisation forte et illusoire de ces technologies conduit à la création de startups. Ces entreprises souhaitent lancer de nouveaux produits et services basés sur ces technologies. Troisièmement, le gouffre de la désillusion. Les produit et services commercialisés ne comblent pas les attentes du public. En conséquence, la presse fait critique de ses technologies et un grand nombre d’entreprises fait faillite. Quatrièmement, la pente de l’illumination. Tenant compte des erreurs du passé, certaines entreprises persistent et développent de nouveaux produits. On parle de produits de seconde génération. Les travaux de recherche et de développement permettent de mieux comprendre les technologies et leurs réelles utilités. Les marchés se développement selon une croissance faible et continue. Ils croissent linéairement. Cinquièmement, le plateau de productivité. Cette dernière section marque la maturité des technologies. On assiste à l’apparition de produit de troisième génération. Ils sont plus aboutis et sont plus affinés quant à leurs domaines d’application. L’éventail des applications dépend qu’il s’agit d’un marché de niche ou d’un marché de masse.

Sur la figure ci-dessous, plusieurs sphères bleues sont présentes sur la courbe. Deux d’entre elles illustrent la position de la réalité augmentée et de la réalité virtuelle. En Juillet 2015, elles se trouvaient dans la troisième section de la courbe. Selon les derniers chiffres publiés par Gartner le 19 juillet 2016, la réalité augmentée est toujours dans le puits des désillusions et la réalité virtuelle se trouve maintenant dans la quatrième section du graphique (voir ICI). Les deux technologies devraient atteindre un plateau de stabilisation dans une période de cinq à dix ans.

grapheGartner

La phase de désillusion de la réalité augmentée s’explique simplement. Prenons un exemple. Dans la section précédente est illustrée une capture d’écran du spot publicitaire utilisé par Microsoft pour faire la promotion de ses lunettes Hololens. On peut y voir le jeu vidéo MineCraft se superposer aux éléments mobiliers de l’utilisateur. Pour réaliser cela, les lunettes Hololens doivent être capables de reconnaissance sémantique. Elles doivent pouvoir déterminer si un élément mobilier est une chaise, un fauteuil, une table, etc. Or, les travaux de recherche concernant cette matière sont toujours en cours. C’est ce qu’illustrent les travaux de Charles Ruizhongtai. Aucune version commerciale des lunettes Hololens n’intègre ce type de reconnaissance. En conséquence, il existe un décalage entre les attentes du public et les fonctionnalités actuelles du produit. Cependant, la recherche et le développement sont des étapes nécessaires pour obtenir des produits plus affinés. On parle alors de produits de seconde génération. La réalité virtuelle est dans une phase montante. Le nombre de périphériques mis sur le marché est en augmentation et les versions de produit se succèdent. Nous l’illustrerons notamment au travers du casque Oculus Rift et de l’utilisation des smartphones au chapitre suivant. Les produits et services disponibles sont de plus en plus affinés. Leur nombre ne cesse d’augmenter. Le domaine de la réalité virtuelle se dirige vers un ensemble de technologies plus matures. Nous sortons de la phase de prototypage pure pour aller vers un produit qui sera amélioré par plusieurs versions successives.

La courbe de Gartner et les applications présentées ici indiqueraient que le développement des applications liées à la réalité virtuelle et à la réalité augmentée va continuer de progresser et de se diversifier dans les prochaines années. Le foisonnement qui nous occupe actuellement va continuer de croître pour se stabiliser dans le futur. Les secteurs liés à la santé, l’aide aux personnes, l’éducation et l’enseignement sont prometteurs. La tendance de leur évolution est à surveiller sur le courant des années futures.

Publié le

Historique

Ce second article présente le développement historique des concepts de réalité virtuelle et de réalité augmentée. C’est une étape nécessaire pour mieux comprendre les techniques, outils et les périphériques actuels. Nous présentons les points saillants de l’évolution selon un ordre chronologique. Nous montrons que les concepts fondamentaux de la technologie virtuelle et de réalité augmentée sont restés les mêmes au cours du temps. Le fait le plus notable est le glissement de ces technologies des laboratoires de recherche vers le salon des particuliers. On assiste à une démocratisation de masse. La réalité virtuelle et la réalité augmentée deviennent accessibles à tout un chacun même si le coût d’acquisition reste important. C’est rendu possible par deux phénomènes : d’une part, l’évolution technologique des composants électroniques ; d’autre part, la diminution du coût économique de ces composants. Au vu du foisonnement de ces technologies nouvelles, une rétrospective s’impose pour mieux comprendre les concepts qui les sous-tendent. Nous présentons l’historique en cinq sous-sections. Dans un premier temps, les travaux précurseurs de la réalité augmentée et de la réalité virtuelle sont exposé ICI. Ensuite, nous expliquons les développements effectués au cours des années 1990 ICI. Après quoi, nous discutons des développements relatifs aux années 2000  ICI. Les événements liés aux années 2010 à nos jours sont explicités ICI. Enfin, nous présentons nos observations à la section disponible ICI.

Les précurseurs

Nous présentons dans cette section trois travaux considérés comme parmi les plus important dans le domaine de la réalité virtuelle et de la réalité augmentée. Nous présentons le Sensorama. Ensuite, l’épée de Damoclès. Finalement, le gant digital.

Le sensorama

Les casques de réalité virtuelle et de réalité augmentée trouvent leurs origines aux environs de 1950. Ils s’inscrivent comme un produit de la réalité virtuelle dans son sens large. Parmi les précurseurs de ce concept se trouve Morton Heiling, inventeur du premier cinéma immersif dès 1962 (Source : ICIet ICI). Cette technologie baptisée Sensorama avait pour objectif d’exploiter les sens du spectateur au travers de 5 courts-métrages. En plus du traditionnel contenu vidéo et sonore, des ventilateurs et un siège vibrant lui permettaient de ressentir les scènes au travers de sensations nouvelles. L’illustration ci-dessous représente l’affiche publicitaire utilisée à l’époque. La source originale de la photo peut être consultée ICI.

sensorama

L’épée de Damoclès

En 1968, Ivan Sutherland invente l’épée de Damoclès après le sketchpad en 1963 pour lequel il reçut le prix Turing en 1988 (voir ICI et ICI). C’est le premier casque de réalité virtuelle. Son poids conséquent obligeait à soutenir ses composants avec un bras mécanique. C’est de ce bras que Sutherland tira le nom de son invention. L’interface était primitive, mais offrait une vue tridimensionnelle à l’utilisateur basée sur des cadres rectangulaires. Le casque affichait une vue en perspective aux yeux d’un utilisateur en fonction de ses mouvements de tête. Pour ce faire, des capteurs étaient placés au-dessus de la tête de l’utilisateur. Ils renvoyaient la position courante à un programme informatique déterminant le déplacement de position à l’aide de calcul matriciel. Ensuite, un second programme calculait la vue à projeter sur les lentilles du casque pour finalement les envoyer au driver d’affichage. Cette technologie était capable de calculer les coordonnées d’un espace tridimensionnel situé autour de l’utilisateur et d’afficher des éléments se trouvant devant ou derrière lui au gré de ses déplacements de tête. L’illustration ci-dessous est extraite de l’article rédigé par Sutherland pour présenter son invention (voir ICI). Elle expose le montage de l’épée de Damoclès et le casque monté sur la tête d’un utilisateur.

sutherland

Gant digital


En 1977 est développé le premier prototype de gant digital (voir ICI, ICI et ICI). C’est à Electronic Visualisation Laboratory que Daniel J.Sandin et Thomas Defanti conçoivent le Sayre Glove. Un gant digital, aussi nommé dataglove en anglais, est un périphérique d’entrée constitué d’un gant posé sur la main de l’utilisateur et d’un ensemble de capteurs intégrés sur ce gant permettant à un utilisateur de retranscrire le mouvement de ses mains dans un environnement virtuel. C’est un aspect complémentaire au casque de réalité virtuelle. En effet, les gants assurent une expérience utilisateur encore plus immersive dans un monde virtuel. Envisageons la problématique des dispositifs de pointage. Un dispositif de pointage est un périphérique d’entrée permettant d’indiquer où et comment agir au sein d’une interface. Par exemple, une souris d’ordinateur conventionnelle permet de déplacer un curseur sur un écran. C’est en déplaçant la souris qu’un utilisateur définit où effectuer une action. En complément, les clics gauche et droit définissent comment agir sur la zone pointée. Ce sont couramment des opérations de sélection et d’option sur la sélection. Une souris conventionnelle d’ordinateur ne permet que des déplacements dans un environnement en deux dimensions. C’est typiquement le cas des interfaces traditionnelles comme les ordinateurs portables ou de bureau. Le Sayre glove est l’une des premières tentatives fructueuses de dispositif de pointage adaptée aux environnements tridimensionnels. Il est intuitif et naturel pour l’utilisateur. L’illustration ici-bas est une vue latérale droite du Sayre glove. Elle est issue de cet article.

saryGlove

Le fonctionnement technique du gant est ingénieux par sa simplicité. Il utilise des segments de fibre optique partant du poignet et s’arrêtant sur l’extrémité de chacun des doigts du gant. Une source lumineuse placée sur le poignet ou en amont de celui-ci émet de la lumière au sein de ses fibres. À l’intersection de chaque phalange se trouve une cellule photosensible. Le dispositif déterminait la position de la main en fonction du voltage calculé par l’ensemble de ces cellules. La première illustration ici bas montre ce type de montage. Elle est issue de cet article. Cependant, il faudra attendre les travaux de Gary Grimes en 1983 pour voir apparaître le premier gant doté de capteurs multiples. Il porta le nom de Digital Data Entry Gloveet fut développé au sein des laboratoires Bell. Un ensemble de capteurs de pression et de touché permettait de savoir la position exacte de chaque doigt et ainsi la position exacte de la main (voir ICI). La second illustration ci-dessous est extraite de cet article. Elle présente une vue d’artiste ce type de technologie. Le développement de ces gants digitaux marque le début du développent des contrôleurs externes. Par contrôleurs externes, nous entendons tout type de manettes, de senseurs et de capteurs utilisable par un utilisateur pour interagir avec un système informatique de réalité virtuelle. Ils se démarquent des contrôleurs précédents par leurs capacités d’interactions avec un environnement tridimensionnel.

Principe de fonctionnement du gant digital

gant1983_thumb.png

Années 1990

Aux années 1990 correspond une période mouvementée en recherche et expérimentation. On assiste au développement des premiers casques de réalité virtuelle à destination du grand public. Ils ont été portés par l’industrie du jeu vidéo et des loisirs digitaux. La conception de ces casques implique un ensemble de contraintes supplémentaires. En effet, les casques doivent pouvoir être fabriqués industriellement et avec un coût acceptable. Un produit tel que l’épée de Damoclès ne peut exister qu’en laboratoire. Il est trop encombrant et trop coûteux que pour être commercialisé en masse. Parmi les plus accessibles et les plus répandus, nous en identifions trois. Nous décrivons brièvement chacun de ces casques dans les sous-sections suivantes. Le casque CyberMaxx ICI, Le casque I-Glasses ICI et le casque VFX-1 ICI. Enfin nous terminons cette section par un ensemble de remarques ICI.

VictorMaxx CyberMaxx

En novembre 1994, la société VictorMaxx propose le casque Cybermaxx pour la somme de 699\$. Il était équipé de deux écrans LCD actifs d’une taille de 505×230 pixels chacun. Son utilisation était purement dédiée aux jeux vidéo. Plusieurs titres étaient disponibles à la vente. Trois d’entre eux étaient fournis avec le casque. La figure ici-bas est une photographie d’un casque Cybermaxx. La source est disponible ICI. C’est le premier casque commercialisé avec un jeu de lentilles incorporé pour effectuer la mise au point. Il permet aux utilisateurs possédant des lunettes d’utiliser le périphérique en l’ajustant à leurs besoins. Nous n’avons trouvé aucune informations sur les outils et les ressources de développement compatibles avec ce casque.

VictrorMaxxCyberMaxx

I-Glasses

En 1995, la société Virtual I-O commercialise I-Glasses pour la somme de 799 $. Ce casque fonctionne seul, connecté à un téléviseur ou à un ordinateur. Il avait pour vocation les loisirs tels que les films ou les jeux de simulations sur ordinateur(voir ICI et ICI). Ce modèle de casque se destine à la réalité virtuelle et à la réalité augmentée. Le champ d’application était novateur et particulièrement large pour l’époque. Il se voulait être un produit futuriste tout-en-un capable de se fondre dans le quotidien de ses utilisateurs. Nous n’avons trouvé aucune information sur le développement logiciel associé à ce matériel. La vidéo suivante est le spot publicitaire original des I-Glasses :

VFX-1

Aussi en 1995, Forte Technologies lance le casque VFX-1 pour la somme de 695 $ (voir ICI). Il était équipé de deux écrans LCD de 263×230 pixels permettant 256 couleurs. De plus, il intègre trois capteurs déterminant la position de la tête de l’utilisateur. C’est un casque fonctionnant uniquement avec un ordinateur type PC. Il ne peut pas fonctionner en isolation. C’est le seul à intégrer un combiné son et micro en plus d’un contrôleur externe. C’est le plus complexe et le plus sophistiqué de sa génération. En outre, ses interfaces de programmation étant libres, il ouvre une nouvelle voie aux concepteurs d’applications. C’est le seul à proposer cette ouverture (voir ICI et ICI). La figure ci-dessous est une photographie d’un casque VFX-1. La source originale est consultable ICI. Une démonstration du fonctionnement de ce casque est illustré dans la vidéo suivante :

On y voit un utilisateur tester le casque VFX-1 avec le jeu Quake. Remarquons la synchronisation presque instantanée entre les mouvements de tête de l’utilisateur et la vue à la première personne du jeu vidéo. Dans le contexte des années 1990, c’est une technologie novatrice. Le kit de développement est toujours disponible sur divers forums et groupes de discussion. Cependant, le VFX-1 dépend de composants logiciels et matériels devenus obsolètes tels que le bus de communication ISA ou encore MS-Dos 5. Utiliser le VFX-1 pour effectuer de la recherche et du développement n’est donc plus possible à l’heure actuelle.

FortesVFX1

Remarques

D’après Charlie Ecenbarger et Robert Brookey dans cette thèse, les années 1990 marquent la chute de la réalité virtuelle et de la réalité augmentée dans une niche que seuls les technophiles passionnés explorent. Les trois modèles de casque présentés n’ont jamais pris place sur le marché commercial. Les joueurs et technophiles n’étaient pas prêts pour une telle technologie. Compte tenu des caractéristiques techniques des différents casques, on peut aussi s’interroger sur le confort d’utilisation. Ainsi, le manuel d’utilisation du VFX-1 conseille de faire des pauses toutes les 15 minutes lors de l’utilisation pour éviter les maux de tête et la fatigue oculaire (voir ICI). Les capacités matérielles étaient encore un frein vers une expérience plus immersive de la réalité virtuelle.

En conséquence, la réalité virtuelle et la réalité augmentée se sont principalement cantonnées aux bornes d’arcades et aux jeux virtuels. Plutôt que de rendre compte d’une réalité virtuelle totalement immersive, les développements se sont orientés vers des aspects plus spécifiques. Il s’agit typiquement de deux concepts : d’une part, le perfectionnement des dispositifs de pointage et de perception (E.G les casques de réalité virtuelle) ; d’autre part, la qualité et le rendu des graphismes. Les deux étaient motivés par l’idée de rendre la réalité virtuelle plus immersive. Par exemple, la borne d’arcade BeachHead 2000 permettait à un utilisateur d’effectuer deux types de mouvement. Premièrement, bouger la tête de haut en bas et de bas en haut (I.E axe vertical). Deuxièmement, effectuer une rotation à 360 degrés vers la gauche ou vers la droite (I.E axe horizontal). Une illustration de cette borne d’arcade est disponible ci-dessous. La source originale est consultable ICI. En parallèle, l’industrie du jeu vidéo a poussé le développement de la qualité des graphismes et des consoles de jeu. Cela traduit un désir persistant d’améliorer les technologies liées à la réalité virtuelle et à la réalité augmentée.

BeachHead2000

Dans notre revue de la littérature, nous n’avons identifié qu’une seule campagne de recherches mixant plusieurs aspects de la réalité virtuelle au cours des années 1990. Il s’agit d’une série de projets soutenus par la Nasa dans le cadre de l’exploration spatiale (voir ICI et ICI). Parmi eux, le projet VIEW pour Virtual Interactive Environment Workstation (voir ICI). Il avait pour objectif d’immerger les utilisateurs dans le cyberespace. VIEW est un dispositif constitué de composants logiciels et matériels. Il incorpore notamment un casque de réalité virtuelle et le Sary glove présenté plus haut dans cet article. Les possibilités offertes par VIEW en faisaient un outil de choix pour le programme d’entraînement des astronautes. Équipé d’une base de données de contenu graphique en trois dimensions, il permettait de simuler tout type d’environnement. L’illustration ci-dessous est une photographie du montage expérimental de ce projet.

VIEW

 

Années 2000

Les années 2000 se placent en continuité des années 1990. Le développent des techniques et des outils se poursuit. Le confort des écrans s’améliore par une densité plus importante du nombre de pixels par unité de surface. La résolution des écrans augmente. Prenons un cas pratique. Dans les casques étudiés précédemment, la résolution maximale était de 640×480 pixels. Ce qui correspond à 0,3 mégapixel. Sachant que la majorité des périphériques étaient équipés d’écrans HD en 2015, la résolution moyenne actuelle est de 1920×1080 (voir ICI). Cela correspond à 2,07 mégapixels. Ainsi, on constante une augmentation de la densité des pixels de 690 % en l’espace de vingt ans. Cette avancée technologique a rendu possible le mariage du smartphone avec la réalité virtuelle et augmentée. L’avantage résultant de cette association est une réalité virtuelle et augmentée nomade. Elle tire parti de la mobilité du smartphone au travers de tous ses aspects. Il est dès lors possible de sortir hors des laboratoires et des salons pour découvrir le monde extérieur. Les frontières s’estompent et le champ d’application de la réalité virtuelle et augmentée s’accroît.

Années 2010 à nos jours

Ce n’est qu’à parti des années 2010 que se profilent les acteurs et les produits actuellement présents. C’est en 2010 que Palmer Luckey conçoit le prototype du casque Oculus Rift. Ce prototype servira de base à la fondation de l’entreprise Oculus VR en 2012 (voir ICI) qui sera rachetée par Facebook en 2014 pour un montant de 2 milliards de dollars (voir ICI). La même année, Sony annonce le lancement du projet Morpheus à l’origine du casque de réalité augmentée PlayStation VR. En parallèle, Google annonce le projet de lunettes stéréoscopique Cardboard (voir ICI) à destination des smartphones. En 2015, trois événements importants se produisent. Premièrement, les entreprises HTC et Vive Corproration annoncent leur partenariat pour la conception et le développement d’un casque de réalité virtuelle nommé HTC Vive. Deuxièmement, le Samsung Gear VR développé par Samsung Electronics en collaboration avec Oculus VR est commercialisé. Ce produit permet de transformer un smartphone Samsung en un casque de réalité virtuelle. Troisièmement, la société Microsoft annonce le développement d’un casque de réalité augmentée basé sur une vision holographique. Connu initialement sous le nom de projet Baraboo, il correspond à la technologie Microsoft Hololens (voir ICI). L’ensemble de ces technologies sera expliqué en détail dans la suite de ce document.

Un autre exemple illustre la montée en intérêt de la réalité virtuelle et de la réalité augmentée. Ainsi, des jeux de réalité augmentée font leur apparition sur les smartphones. C’est le cas du jeu « Pokémon GO » disponible en Europe depuis approximativement le 16 Juillet 2016 (voir ICI et ICI). Le joueur a la possibilité de capturer des créatures nommées « pokémons » et de se confronter à d’autres joueurs dans des « arènes ». Le jeu superpose ses graphismes sur les images capturées par la caméra au gré des déplacements du joueur. Pour ce faire, il se déplace dans notre monde physique et le capteur GPS du Smartphone est utilisé par l’application pour déterminer sa position. Cette approche est novatrice : les possibilités offertes par le jeu semble illimitées. En effet, la carte sur laquelle évolue le joueur est infinie. L’intérêt social porté à ce jeu est grandissant et son succès ne cesse de croître (voir ICI et ICI). La première figure ici-bas est une capture d’écran du jeu Pokémon Go. La source originale est disponible ICI. Remarquons que ce jeu n’est pas la première tentative du genre. Ainsi, déjà en 2003, Siemens proposait sur ses téléphones mobiles un jeu de chasse aux moustiques nommé « Mozzies ». L’objectif était de tuer des moustiques projetés sur les images capturées par la caméra (voir ICI). L’utilisateur devait placer un curseur sur les moustiques par des mouvements de bras ou de mains. Une fois le curseur placé sur un moustique, il mourrait. La seconde illustration est une capture d’écran de ce jeu. La source originale est consultable ICI. Bien que les scénarios soient fort différents sur l’un et l’autre de ces deux jeux, les concepts informatiques utilisés sont similaires. C’est une superposition d’images virtuelle sur des images de notre monde réel.

pokemonGo

mozzies

Observations

Au vu de l’historique présenté dans cette section, les développements actuels ne sont pas novateurs : il existait déjà des technologies similaires dans le passé. Ils n’ont pas l’exclusivité d’être les premiers. Les principes fondateurs et sous-jacents sont restés les mêmes. Il s’agit plutôt d’un regain d’intérêt pour la réalité virtuelle et augmentée. Ce nouvel élan depuis les années 2010 se présente comme le réveil d’un domaine resté en sommeil. Il est principalement supporté par les innovations technologiques récentes et l’industrie du jeu vidéo. Dans la section suivante, nous présenterons les techniques, outils et les périphériques actuels. Nous verrons en quoi ils restent fidèles aux principes fondateurs de la réalité virtuelle et augmentée. Nous montrerons également par quoi se concrétisent les dernières avancées technologiques.

Publié le

Introduction à la réalité virtuelle et à la réalité augmentée

Les applications de réalité virtuelle et de réalité augmentée prennent une place de plus en plus importante dans le quotient de tout un chacun. Prenons pour fait d’exemple deux événements. Premièrement, l’apparition récente du jeu « Pokémon Go » dont l’intérêt social ne cesse de croître. C’est une application de réalité augmentée. Deuxièmement, la sortie récente des casques de réalité virtuelle à destination des ordinateurs et consoles de jeux. Les casques Oculus Rift et HTC Vive sont des exemples parlants. La réalité virtuelle a pour objectif de plonger l’utilisateur dans un monde virtuel. Le degré d’immersion est très variable. Il va de la simple visualisation de ce monde à s’y promener. Plusieurs dispositifs tels que des gants digitaux permettent d’augmenter l’intensité de l’immersion. La réalité augmentée est différente. Elle a pour objectif de superposer du contenu numérique a des images de notre monde physique. le contenu numérique peut être du contenu bidimensionnel (E.G une image ou du texte) ou tridimensionnelle (E.G un hologramme). Les champs d’application de la réalité virtuelle et de la réalité augmentée sont indénombrables. Ces applications sont rendues possibles par un ensemble de périphériques spécifiquement destinés à l’une ou l’autre de ces deux catégories.

Dans cet état de l’art nous réalisons une étude comparative des onze périphériques les plus populaires actuellement disponibles. Ce sont les périphériques les plus cités et documentés au travers des moteurs de recherche Google et Google Scholar. En effet, beaucoup d’articles sur internet proposent des informations détaillées sur un périphérique spécifique. En revanche, nous n’avons pas trouvé d’article offrant une vue globale du matériel disponible en ce moment. C’est pourquoi nous avons rédigé cet état de l’art. Il donne un instantané des technologies actuellement disponibles et les compare entre elles. La vision globale de ce document permet de sélectionner le périphérique le plus adéquat en fonction du but poursuivi. Typiquement, pour un projet donné quel est le périphérique le plus adéquat. Nous exposons les différences entre les périphériques et expliquons en quoi ces différences sont importantes. Nous montrons qu’il existe plusieurs catégories de périphériques pour plusieurs usages. Tous possèdent leurs spécificités. Cet état de l’art rend compte de cette situation.

Nous adoptons une démarche top-down. Nous partons des bases historiques, retraçons l’évolution jusqu’aux projets actuels pour enfin présenter en détails les différents périphériques. Nous expliquons les concepts nécessaires à la compréhension au fur et à mesure que nous les rencontrons. Cet ordre de présentation permet de partir du plus général vers le plus détaillé. C’est une approche plus pédagogique qui facilite la compréhension. Pour la rédaction de ce travail, nous avons utilisé les informations disponibles dans la littérature scientifique, Internet, les brochures spécialisées et les livres techniques.

Cet état de l’art est composé de cinq articles. Le premier est la présente introduction. Le second article présente un historique de la réalité virtuelle et de la réalité augmentée. Nous y présentons les événements majeurs de l’évolution depuis les débuts des années 1950 jusqu’à nos jours. Nous présentons les périphériques conçus et leur utilisation dans un ordre chronologique pour mieux refléter l’évolution technologique. Nous montrons aussi que les outils, techniques et technologies ont évoluées mais que les concepts fondamentaux sont restés les mêmes. Ensuite, le troisième article  présente les développements et les recherches les plus récents. Nous montrons vers quels domaines se dirigent les chercheurs et les industriels. Nous montrons également que les temps actuels marquent un changement dans les recherches et développements. À partir de l’historique présenté dans le second article et les éléments exposés dans ce chapitre, nous donnons les raisons de ce changement. En outre, nous présentons les périphériques utilisés dans le cadre de ces travaux. Après, le quatrième article présente les onze périphériques les plus populaires actuellement. Ils correspondent aux périphériques les plus documentés et les plus référencés dans la littérature et sur internet. Nous les présentons en deux étapes. Premièrement une analyse comparative des outils disponibles sur le marché au travers de vingt-quatre critères. Cette analyse est répartie en trois tableaux. Chacun présente les périphériques au travers d’un thème spécifique. Deuxièmement, une présentation détaillées de ces onze périphériques. Pour chacun d’eux, nous donnons une brève description, une illustration et les informations utiles sur les outils de développement. Par information utile, nous n’entendons pas seulement la description des outils de développement mais aussi où les trouver. Enfin, le cinquième article est la conclusion de cet état de l’art.