I'm really excited to be here today. I'll show you some stuff that's just ready to come out of the lab, literally, and I'm really glad that you guys are going to be among the first to see it in person, because I really think this is going to really change the way we interact with machines from this point on.
Je suis vraiment content d'être ici aujourd'hui, pour vous montrer ce qui va tout juste de sortir de nos laboratoires, littéralement, et je suis heureux que vous soyez les premiers à pouvoir le voir en direct, car je pense vraiment que cela va changer -- vraiment changer -- notre manière d'interagir avec les machines. Voici une table à dessin rétro-projetée. Elle fait 91 cm de diagonale,
Now, this is a rear-projected drafting table. It's about 36 inches wide and it's equipped with a multi-touch sensor. Normal touch sensors that you see, like on a kiosk or interactive whiteboards, can only register one point of contact at a time. This thing allows you to have multiple points at the same time. They can use both my hands; I can use chording actions; I can just go right up and use all 10 fingers if I wanted to. You know, like that.
et est équipée d'un capteur multi-points. Les capteurs tactiles ordinaires, présents dans les bornes ou les tableaux blancs interactifs, ne peuvent capter qu'un seul point à la fois. Ceci vous permet de capter plusieurs points à la fois. Je peux utiliser mes deux mains, je peux faire un accord, ou encore mieux utiliser mes dix doigts à la fois. Comme cela.
Now, multi-touch sensing isn't completely new. People like Bill Buxton have been playing around with it in the '80s. However, the approach I built here is actually high-resolution, low-cost, and probably most importantly, very scalable. So, the technology, you know, isn't the most exciting thing here right now, other than probably its newfound accessibility. What's really interesting here is what you can do with it and the kind of interfaces you can build on top of it. So let's see.
Les capteurs multi-points ne sont pas complètement nouveaux. Des personnes comme Bill Buxton s'en sont servi dans les années 80. Cependant, mon approche se sert de la haute résolution, est peu chère, et sûrement le plus important, très évolutive. La chose la plus excitante ici n'est donc pas la technologie, mais surtout les nouvelles possibilités d'accès. Ce qui est vraiment intéressant est ce que l'on peut en faire, et le type d'interfaces que l'on peut construire. Voyons ça.
So, for instance, we have a lava lamp application here. Now, you can see, I can use both of my hands to kind of squeeze and put the blobs together. I can inject heat into the system here, or I can pull it apart with two of my fingers. It's completely intuitive; there's no instruction manual. The interface just kind of disappears. This started out as a screensaver app that one of the Ph.D. students in our lab, Ilya Rosenberg, made. But I think its true identity comes out here.
Par exemple, voici une application de lampe à lave. Vous voyez, j'utilise mes deux mains pour presser les bulles de lave les unes contre les autres. Je peux injecter de la chaleur dans le système, ou le diviser avec deux doigts. C'est complètement intuitif, il n'y a pas de mode d'emploi. L'interface devient transparente. Ceci a débuté sous la forme d'un économiseur d'écran fait par un des étudiants de notre laboratoire, Ilya Rosenberg. Mais sa véritable identité émerge ici.
Now what's great about a multi-touch sensor is that, you know, I could be doing this with as many fingers here, but of course multi-touch also inherently means multi-user. Chris could be interacting with another part of Lava, while I play around with it here. You can imagine a new kind of sculpting tool, where I'm kind of warming something up, making it malleable, and then letting it cool down and solidifying in a certain state. Google should have something like this in their lobby.
Ce qui est génial dans un capteur multi-point, c'est que je peux faire cela avec autant de doigts que je veux, mais aussi, sous-entendu, avec plusieurs utilisateurs. Chris peut donc interagir avec une autre partie de la lave, pendant que je joue ici. On peut imaginer un nouvel outil de sculpture, en chauffant la matière, la rendant malléable, puis en la laissant refroidir et se solidifier dans un certain état. Google devrait avoir quelque chose comme ça dans leur hall. (Rires)
(Laughter)
I'll show you a little more of a concrete example here, as this thing loads. This is a photographer's light-box application. Again, I can use both of my hands to interact and move photos around. But what's even cooler is that if I have two fingers, I can actually grab a photo and then stretch it out like that really easily. I can pan, zoom and rotate it effortlessly. I can do that grossly with both of my hands, or I can do it just with two fingers on each of my hands together. If I grab the canvas, I can do the same thing -- stretch it out. I can do it simultaneously, holding this down, and gripping on another one, stretching this out.
Je vais vous montrer -- un exemple un peu plus concret, pendant que cela charge. Voici une application de table lumineuse pour photographe. Ici encore, je peux utiliser mes deux mains pour interagir et bouger les photos. Encore mieux: avec deux doigts, je peux prendre une photo et l'étirer comme cela très facilement. Je peux faire un panoramique, zoomer ou la tourner sans effort. Je peux faire cela grossièrement avec mes deux mains, ou juste avec deux doigts de chacune de mes mains en même temps. Si je prends l'ensemble, je peux faire la même chose -- l'étirer. Je peux le faire en même temps, où je tiens ceci en bas, et je saisis l'autre côté, en l'étirant ainsi.
Again, the interface just disappears here. There's no manual. This is exactly what you expect, especially if you haven't interacted with a computer before. Now, when you have initiatives like the $100 laptop, I kind of cringe at the idea of introducing a whole new generation to computing with this standard mouse-and-windows-pointer interface. This is something that I think is really the way we should be interacting with machines from now on.
A nouveau, l'interface devient transparente. Pas de mode d'emploi. C'est exactement que l'on attend, surtout si vous ne vous êtes jamais servi d'un ordinateur auparavant. Avec des initiatives comme l'ordinateur à 100 dollars, l'idée me hérisse que nous créions une nouvelle génération d'utilisateurs se servant de l'interface standard que sont la souris et les fenêtres. Je pense que ceci est vraiment la manière dont nous devrions interagir avec les machines désormais. (Applaudissements)
(Applause)
Now, of course, I can bring up a keyboard.
Bien sûr, je peux ajouter un clavier.
(Laughter) And I can bring that around, put that up there. Obviously, this is a standard keyboard, but of course I can rescale it to make it work well for my hands. That's really important, because there's no reason in this day and age that we should be conforming to a physical device. That leads to bad things, like RSI. We have so much technology nowadays that these interfaces should start conforming to us. There's so little applied now to actually improving the way we interact with interfaces from this point on. This keyboard is probably actually the really wrong direction to go. You can imagine, in the future, as we develop this kind of technology, a keyboard that kind of automatically drifts as your hand moves away, and really intelligently anticipates which key you're trying to stroke. So -- again, isn't this great?
Et cela aussi, placer cela ici, et ça là. Évidemment, c'est un clavier standard, mais je peux le redimensionner pour qu'il soit adapté à mes mains. C'est vraiment important, il n'y a plus de raison de nos jours pour que nous soyons obligés de notre adapter à un équipement. Cela peut générer des troubles musculosquelettiques. La technologie étant si présente de nos jours, les interfaces devraient commencer à s'adapter à nous. Très peu a été fait pour améliorer la manière d'interagir avec les interfaces de travail. Ce clavier ne va très certainement pas dans la bonne direction. Vous pouvez imaginer, plus tard, quand cette technologie sera mature, un clavier qui dérive en même temps que vos mains se déplacent, qui anticipe intelligemment sur quelle touche vous essayez de taper. N'est-ce pas génial?
(Laughter)
Public : Où est votre laboratoire?
Audience: Where's your lab?
Jeff Han: I'm a research scientist at NYU in New York.
Jeff Han : Je suis un chercheur de l'Université de New York.
Here's an example of another kind of app. I can make these little fuzz balls. It'll remember the strokes I'm making. Of course I can do it with all my hands. It's pressure-sensitive. What's neat about that is, I showed that two-finger gesture that zooms in really quickly. Because you don't have to switch to a hand tool or the magnifying glass tool, you can just continuously make things in real multiple scales, all at the same time. I can create big things out here, but I can go back and really quickly go back to where I started, and make even smaller things here.
Voici un autre exemple d'application. Prenez ces petites boules. Elles retiendront mes mouvements. Bien sûr, je peux le faire avec mes deux mains. Elles sont sensibles à la pression, comme vous le voyez. Mais ce qui super, à nouveau, c'est ce geste avec deux doigts pour zoomer très rapidement. Puisque vous n'avez pas à passer sur un outil manuel ou la loupe, vous pouvez faire des choses sans vous arrêter, à plusieurs échelles, en même temps. Je peux créer de grands objets ici, mais je peux retourner très vite au début, et créer des objets encore plus petits ici.
This is going to be really important as we start getting to things like data visualization. For instance, I think we all enjoyed Hans Rosling's talk, and he really emphasized the fact I've been thinking about for a long time: We have all this great data, but for some reason, it's just sitting there. We're not accessing it. And one of the reasons why I think that is will be helped by things like graphics and visualization and inference tools, but I also think a big part of it is going to be having better interfaces, to be able to drill down into this kind of data, while still thinking about the big picture here.
Ceci va devenir très important avec le développement de la visualisation des données. Par exemple, rappelez-vous la présentation de Hans Rosling où il a vraiment mis l'accent sur ce que je pense depuis longtemps : nous avons des données nombreuses, mais, pour diverses raisons, inexploitées. Nous n'y accédons pas vraiment. C'est pourquoi, à mon avis, nous serons aidés par des graphiques et des outils de visualisation et d'inférence. Je pense donc que tout ça commencera grâce à de meilleures interfaces capables d'aller dans le détail des données, tout en pensant à la vue globale, ici.
Let me show you another app here. This is called WorldWind. It's done by NASA. We've all seen Google Earth; this is an open-source version of that. There are plug-ins to be able to load in different data sets that NASA's collected over the years. As you can see, I can use the same two-fingered gestures to go down and go in really seamlessly. There's no interface, again. It really allows anybody to kind of go in -- and it just does what you'd expect, you know? Again, there's just no interface here. The interface just disappears. I can switch to different data views. That's what's neat about this app here. NASA's really cool. These hyper-spectral images are false-colored so you can -- it's really good for determining vegetative use. Well, let's go back to this.
Voici une autre application. Elle s'appelle WorldWind. C'est fait par la NASA. C'est -- nous avons tous vu Google Earth, c'est une version en logiciel libre. Il y a des connecteurs capables de charger différents ensembles de données que la NASA a amassés au fil des ans. Mais comme vous le voyez, je peux utiliser les mêmes gestes des doigts pour zoomer en profondeur sans rupture. Pas d'interface, à nouveau. Cela permet à n'importe qui de zoomer -- cela fait ce à quoi vous vous attendez, vous voyez? Encore, pas d'interface. Elle disparaît tout simplement. Je peux passer d'une vue à l'autre. C'est ce qui super avec cette application. Voilà. La NASA est vraiment sympa. Ils ont ces images hyper-spectrales qui sont colorisées pour -- c'est vraiment pratique pour déterminer l'usage végétal. Bref, revenons à notre sujet. Le grand intérêt des applications de cartographies --
The great thing about mapping applications -- it's not really 2D, it's 3D. So, again, with a multi-point interface, you can do a gesture like this -- so you can be able to tilt around like that --
ce n'est pas en 2D, plutôt en 3D. A nouveau, avec une interface multi-points, vous pouvez faire un geste ainsi -- et être capable d'incliner comme ça,
(Surprised laughter)
Ce n'est vraiment pas qu'un simple mouvement de déplacement en 2D.
It's not just simply relegated to a kind of 2D panning and motion. This gesture is just putting two fingers down -- it's defining an axis of tilt -- and I can tilt up and down that way. We just came up with that on the spot, it's probably not the right thing to do, but there's such interesting things you can do with this interface. It's just so much fun playing around with it, too.
Ce geste que nous avons développé, à nouveau, juste avec deux doigts, définit un axe d'inclinaison et vous pouvez incliner vers le haut ou le bas ainsi. C'est venu naturellement sur le moment, ce n'est probablement pas la bonne chose à faire, mais vous pouvez faire tellement de choses intéressantes avec ces interfaces. C'est aussi très amusant de jouer avec. (Rires)
(Laughter)
La dernière chose que je veux vous montrer est --
And so the last thing I want to show you is -- I'm sure we can all think of a lot of entertainment apps that you can do with this thing. I'm more interested in the creative applications we can do with this. Now, here's a simple application here -- I can draw out a curve. And when I close it, it becomes a character. But the neat thing about it is I can add control points. And then what I can do is manipulate them with both of my fingers at the same time. And you notice what it does. It's kind of a puppeteering thing, where I can use as many fingers as I have to draw and make --
je suis sûr que nous pouvons tous imaginer des applications de divertissement avec ceci. Je suis un peu plus intéressé par les applications créatives. Enfin, voici une application toute simple -- Je dessine une courbe. Quand je la ferme, cela devient un personnage. Le truc sympa, c'est que je peux ajouter des points de contrôle. Ensuite, je peux les manipuler avec mes deux doigts en même temps. Regardez ce qui se passe. C'est comme une marionnette, où j'utilise tous les doigts possibles pour dessiner et créer --
Now, there's a lot of actual math going on under here for this to control this mesh and do the right thing. This technique of being able to manipulate a mesh here, with multiple control points, is actually state of the art. It was released at SIGGRAPH last year. It's a great example of the kind of research I really love: all this compute power to make things do the right things, intuitive things, to do exactly what you expect.
Il y a beaucoup de calculs derrière pour arriver à contrôler cet engrenage et obtenir le résultat voulu. En clair, cette technique pour manipuler ici un engrenage, avec plusieurs points de contrôle, est en fait l'état de l'art. Cela vient juste de sortir à Siggraph l'an dernier, mais c'est un super exemple du type de recherche que j'aime. Toute cette puissance de calcul pour faire des choses utiles. Intuitivement. Exactement ce que vous attendez.
So, multi-touch interaction research is a very active field right now in HCI. I'm not the only one doing it, a lot of other people are getting into it. This kind of technology is going to let even more people get into it, I'm looking forward to interacting with all of you over the next few days and seeing how it can apply to your respective fields.
La recherche sur l'interaction multi-point est très active en ce moment dans le domaine des interfaces homme-machine Je ne suis pas tout seul, beaucoup de gens s'y mettent. Cette technologie permettra à plus de gens de s'y mettre, je suis très impatient d'interagir avec vous tous dans les jours à venir et de voir comme cela pourra s'appliquer dans vos domaines respectifs.
Thank you.
Merci.
(Applause)
(Applaudissements)