Nos partenaires

CNRS

Rechercher





Accueil du site > Français > Evénements > Soutenances > Soutenances de thèses

Soutenances de thèses

 

 

Room layout estimation on mobile devices

Vincent ANGLADON - Equipe REVA - IRIT

Vendredi 27 Avril 2018, 14h00
INP-ENSEEIHT, Amphi 002
Version PDF :

Jury

Mme Luce MORIN, Professeur, INSA Rennes
M. Carsten GRIWODZ, Professeur, University of Oslo, Norvège
M. David FOFI, Professeur, Univsersité de Bourgogne
M. Pascal BERTOLINO, Maître de conférences HDR, Université Grenoble Alpes
M. Tomislav Pribanic, Maître de conférences HDR, University of Zagreb, Croatie
M. Frédéric BRUEL, Invité, Président fondateur, Telequid, Paris
M. Benjamin AHSAN, Invité, Directeur technique, Telequid, Toulouse
M. Vincent CHARVILLAT, Professeur, INP-ENSEEIHT / Université de Toulouse
M. Simone GASPARINI, Maître de conférences, INP-ENSEEIHT / Université de Toulouse

Résumé

L'objectif de cette thèse CIFRE est d'étudier et de tirer parti des derniers appareils mobiles du marché pour générer des 3D des pièces observées. De nous jours, ces appareils intègrent un grand nombre de capteurs, tel que des capteurs inertiels, des caméras RGB, et depuis peu, des capteurs de profondeur. Sans compter la présence de l'écran tactile qui offre une interface pour interagir avec l'utilisateur.

Un cas d'usage typique de ces modèles 3D est la génération de plans d'intérieur, ou de fichiers CAO 3D (conception assistée par ordinateur) appliqués à l'industrie du bâtiment. Le modèle permet d'esquisser les travaux de rénovation d'un appartement, ou d'évaluer la fidélité d'un chantier en cours avec le modèle initial. Pour le secteur de l'immobilier, la génération automatique de plans et modèles 3D peut faciliter le calcul de la surface habitable et permet de proposer des visites virtuelles à d'éventuels acquéreurs. Concernant le grand public, ces modèles 3D peuvent être intégrés à des jeux en réalité mixte afin d'offrir une expérience encore plus immersive, ou pour des applications de réalité augmentée, telles que la décoration d'intérieur.

La thèse a trois contributions principales. Nous commençons par montrer comment le problème classique de détection des points de fuite dans une image, peut être revisité pour tirer parti de l'utilisation de données inertielles. Nous proposons un algorithme simple et efficace de détection de points de fuite reposant sur l'utilisation du vecteur gravité obtenu via ces données. Un nouveau jeu de données contenant des photos avec des données inertielles est présenté pour l'évaluation d'algorithmes d'estimation de points de fuite et encourager les travaux ultérieurs dans cette direction.

Dans une deuxième contribution, nous explorons les approches d'odométrie visuelle de l'état de l'art qui exploitent des capteurs de profondeur. Localiser l'appareil mobile en temps réel est fondamental pour envisager des applications reposant sur la réalité augmentée. Nous proposons une comparaison d'algorithmes existants développés en grande partie pour ordinateur de bureau, afin d'étudier si leur utilisation sur un appareil mobile est envisageable. Pour chaque approche considérée, nous évaluons la précision de la localisation et les performances en temps de calcul sur mobile.

Enfin, nous présentons une preuve de concept d'application permettant de générer le plan d'une pièce, en utilisant une tablette du projet Tango, équipée d'un capteur RGB-D. Notre algorithme effectue un traitement incrémental des données 3D acquises au cours de l'observation de la pièce considérée. Nous montrons comment notre approche utilise les indications de l'utilisateur pour corriger pendant la capture le modèle de la pièce.

Abstract

Room layout generation is the problem of generating a drawing or a digital model of an existing room from a set of measurements such as laser data or images. The generation of floor plans can find application in the building industry to assess the quality and the correctness of an ongoing construction w.r.t. the initial model, or to quickly sketch the renovation of an apartment. Real estate industry can rely on automatic generation of floor plans to ease the process of checking the livable surface and to propose virtual visits to prospective customers. As for the general public, the room layout can be integrated into mixed reality games to provide a better immersiveness experience, or used in other related augmented reality applications such room redecoration.

The goal of this industrial thesis (CIFRE) is to investigate and take advantage of the state-of-the art mobile devices in order to automate the process of generating room layouts. Nowadays, modern mobile devices usually come a wide range of sensors, such as inertial motion unit (IMU), RGB cameras and, more recently, depth cameras. Moreover, tactile touchscreens offer a natural and simple way to interact with the user, thus favoring the development of interactive applications, in which the user can be part of the processing loop.

This work aims at exploiting the richness of such devices to address the room layout generation problem. The thesis has three major contributions. We first show how the classic problem of detecting vanishing points in an image can benefit from an a-priori given by the IMU sensor. We propose a simple and effective algorithm for detecting vanishing points relying on the gravity vector estimated by the IMU. A new public dataset containing images and the relevant IMU data is introduced to help assessing vanishing point algorithms and foster further studies in the field.

As a second contribution, we explored the state-of-the-art of real-time localization and map optimization algorithms for RGB-D sensors. Real-time localization is a fundamental task to enable augmented reality applications, and thus it is a critical component when designing interactive applications. We propose an evaluation of existing algorithms for the common desktop set-up in order to be employed on a mobile device. For each considered method, we assess the accuracy of the localization as well as the computational performances when ported on a mobile device.

Finally, we present a proof of concept of application able to generate the room layout relying on a Project Tango tablet equipped with an RGB-D sensor. In particular, we propose an algorithm that incrementally processes and fuses the 3D data provided by the sensor in order to obtain the layout of the room. We show how our algorithm can rely on the user interactions in order to correct the generated 3D model during the acquisition process.

 

Retour