![\"\"](\"https:\/\/www.oezratty.net\/wordpress\/wp-content\/Google-Labs-logo1.jpg\" "\\"Google"){kind=logo}
<\/a><\/p>\n<\/p>\n
<\/p>\n
En une heure, Alice a dress\u00e9 un portrait fort int\u00e9ressant de la mani\u00e8re dont le d\u00e9veloppement et les op\u00e9rations fonctionnent chez Google.<\/p>\n
En voici un apper\u00e7u, compl\u00e9t\u00e9 par un peu de lecture personnelle,\u00a0avec tout d’abord quelques remarques g\u00e9n\u00e9rales:<\/p>\n
- \n
- Tout d’abord, Google a des labos de d\u00e9veloppement <\/strong>bien r\u00e9partis dans le monde. Rien qu’en Europe, ils en ont un \u00e0 Dublin o\u00f9 se trouve \u00e9galement un data center europ\u00e9en, un \u00e0 Londres, un \u00e0 Zurich et un autre\u00a0\u00e0 Trondheim, en Su\u00e8de. Alice est elle-m\u00eame bas\u00e9e \u00e0 New York dans un autre labo. Donc, Google a beau \u00eatre un classique succ\u00e8s de la Silicon Valley, bas\u00e9 \u00e0 Mountain View, ils ont rapidement \u00e9clat\u00e9 g\u00e9ographiquement leurs d\u00e9veloppements. C’est permis\u00a0par une organisation du d\u00e9veloppement logiciel en petites \u00e9quipes : de 2 \u00e0 10 personnes, et 5 en moyenne. Il y a d’un c\u00f4t\u00e9 des services qui requi\u00e8rent effectivement des \u00e9quipes de cette taille, comme le Calendrier sur lequel travaille Alice Bonhomme-Biais. Et de l’autre, le gros du d\u00e9veloppement qui est orient\u00e9 sur le search est lui-m\u00eame d\u00e9coup\u00e9 en autant de modules n\u00e9cessitant des \u00e9quipes de cette taille. L’\u00e9clatement g\u00e9ographique du d\u00e9veloppement r\u00e9pond \u00e0 une logique de recrutement assez simple consistant \u00e0 chercher les talents l\u00e0 o\u00f9 ils sont au lieu de leur proposer tous de d\u00e9m\u00e9nager \u00e0 Mountain View. Au passage, cela permet de contourner les limitations du nombre de visas pour l’entr\u00e9e de travailleurs aux USA. C’est donc bien vu! Et certains \u00e9diteurs de logiciels pourraient s’en inspirer! Donc, Google continue de recruter \u00e0 tour de bras et les ing\u00e9nieurs fran\u00e7ais les int\u00e9ressent, m\u00eame s’il n’y a pas encore de labo de R&D en France m\u00eame.<\/li>\n
- Le d\u00e9veloppement de nouveaux services est (serait?) pilot\u00e9 par les \u00e9quipes produits, ind\u00e9pendamment de toute d\u00e9marche marketing <\/strong>ou de mod\u00e8le \u00e9conomique. Le point cl\u00e9 est de cr\u00e9er des services qui ont une grande valeur d’usage pour les utilisateurs et de g\u00e9n\u00e9rer du trafic. Une fois seulement usage et trafic g\u00e9n\u00e9r\u00e9s se pose la question de la mon\u00e9tisation. Sachant qu’en plus, Google fait tr\u00e8s peu de marketing de ses offres. Elles se diffusent en mode viral et gr\u00e2ce au trafic g\u00e9n\u00e9r\u00e9 par le moteur lui-m\u00eame. Ce d\u00e9couplage produit \/ marketing est sommes toutes encore plus fort que ce que j’ai constat\u00e9 chez Microsoft Corp. Il est contre-intuitif pour ceux – comme moi – qui pensent que le marketing doit \u00eatre impliqu\u00e9 le plus en amont possible de la cr\u00e9ation d’un produit pour assurer son alignement avec un besoin march\u00e9 et avec un business qui tienne la route. Google peut \u00e9viter cette d\u00e9marche pour un certain nombre de facteurs dont peu d’entreprises b\u00e9n\u00e9ficient: une marge \u00e9norme g\u00e9n\u00e9r\u00e9e par le coeur de m\u00e9tier qui permet de financer (souvent \u00e0 perte) de nombreux tests de nouveaux produits, le trafic g\u00e9n\u00e9r\u00e9 par le site Google qui permet d’aspirer de nouveaux clients pour ces services, et un mod\u00e8le de revenu indirect bas\u00e9 sur la publicit\u00e9 et la vente de mots cl\u00e9s qui permet de fournir des services gratuits au plus grand nombre.<\/li>\n
- Certains projets comme Gmail sont bien n\u00e9s du fameux “20% de temps libre<\/strong>” pour des projets de son choix. Mais la part relative des nouveaut\u00e9s de Google qui en proviennent et celle qui est issue d’acquisitions n’est pas claire! La derni\u00e8re \u00e9tant assez cons\u00e9quente en nombre de services mais pas forc\u00e9ment en effectifs de d\u00e9veloppement puisqu’il semble qu’une grosse part de la R&D de Google soit encore focalis\u00e9e sur le coeur du m\u00e9tier: la recherche (voir “Innovation ou marketing?<\/a>” un de mes posts du printemps dernier).<\/li>\n<\/ul>\n
Nous avons dans cette conf\u00e9rence surtout fait le tour du coeur de m\u00e9tier de Google, le search. Qui est d\u00e9coup\u00e9 en tranches:<\/p>\n
- \n
- Le crawler<\/strong>qui scanne les sites Web pour y d\u00e9tecter tous les mots cl\u00e9s utilis\u00e9s. Il s’appuie sur des milliers de serveur qui scannent de fa\u00e7on r\u00e9cursive tous les liens de toutes les pages de tous les sites Web d\u00e9tect\u00e9s. Toutes les URL d’Internet ne peuvent \u00eatre r\u00e9cup\u00e9r\u00e9es. Google s’aide de diff\u00e9rents artifices, notamment des Sitemaps qui permettent aux sites d’informer Google de leur structure et de leur mise \u00e0 jour.<\/li>\n
- L’index<\/strong>qui pour chaque mot liste les pages et les positions dans les pages o\u00f9 on les trouve. Il fonctionne en mode multilingue et stocke \u00e9galement les informations de lieu et de temps sur les pages index\u00e9es. Le lieu s’identifie probablement via l’adresse IP des sites. Il y plusieurs copies de l’index r\u00e9parties g\u00e9ographiquement et elles tiennent toutes en RAM sur les serveurs. En 2006, Google indexerait environ trois fois plus de pages que ses principaux concurrents (donc: Yahoo et Microsoft). Ils indexent aussi 2 milliards d’image, 35 millions de documents non HTML et un milliard de messages UseNet. L’ensemble fait des Teraoctets, bien \u00e9videmment. L’indexation d’une nouvelle page qui apparait sur Internet prend entre 15 minutes et quelques heures selon l’importance et le trafic du site.<\/li>\n
- Le ranking <\/strong>des mots, PageRank, qui \u00e9value la pertinence des pages li\u00e9es \u00e0 la combinaison de mots cl\u00e9s d’une recherche en fonction de diff\u00e9rents crit\u00e8res, notamment le nombre des liens qui aboutissent \u00e0 cette page, et la position des mots dans les pages. Pourquoi les sites de commerce arrivent-ils presque toujours au d\u00e9but des r\u00e9sultats lorsque l’on recherche un produit? Ce ne serait pas li\u00e9 \u00e0 de la vente de placement, mais \u00e0 une bonne optimisation de ces sites qui connaissent bien le fonctionnement de PageRank. La force de PageRank, c’est d’exploiter la mine d’or g\u00e9n\u00e9r\u00e9e par l’index et par l’usage. Tout repose sur des analyses statistiques.<\/li>\n
- L’affichage<\/strong>, tout ce qui rel\u00e8ve de la pr\u00e9sentation des r\u00e9sultats dans un navigateur Web, et l’int\u00e9gration des autres composants de nature publicitaire dans les pages. Pour tester les \u00e9volutions de son interface, Google dispose d’un “usability lab” \u00e0 l’\u00e9chelle plan\u00e9taire. Ils “servent” les nouveaut\u00e9s \u00e0 tester \u00e0 un faible pourcentage de leurs utilisateurs (genre 1%), mais qui suffit \u00e0 en avoir des millions, et ils comparent les r\u00e9sultats: temps pass\u00e9 dans la recherche, taux de clic, etc. Souvent, une modification mineure ne serait-ce que d’un seul pixel d’interlignage peut avoir des r\u00e9percussions significatives. La force du nombre leur apporte des donn\u00e9es statistiques extraordinaires. Quant au “spell check” de Google qui propose une orthographe diff\u00e9rente aux termes recherch\u00e9, il\u00a0s’appuie lui-aussi sur des statistiques et non pas sur un dictionnaire travaillant sur la distance des mots,\u00a0approche\u00a0trop limit\u00e9e pour la gestion des noms propres. Ils s’appuient donc sur des algorithmes de probabilit\u00e9 de concomittance (probabilistic co-occurrence)! Une simple recherche sur Google g\u00e9n\u00e8re c\u00f4t\u00e9 serveurs la lecture de plusieurs centaines de Mo de donn\u00e9es et le site en re\u00e7oit des milliers par seconde!<\/li>\n<\/ul>\n
L’architecture serveur<\/a> s’appuie sur quelques caract\u00e9ristiques originales et maison qui font des labos de Google une sorte de v\u00e9ritable laboratoire de R&D de syst\u00e8me d’exploitation et de middleware r\u00e9seau et de gestion de donn\u00e9es distribu\u00e9s:<\/p>\n
- \n
- Les racks de serveur <\/strong>sont b\u00e2tis sur une architecture physique optimisant leur remplacement ainsi que celui des disques durs: au lieu de vis pour les fixations, ils utilisent du Velcro ! En effet, sur\u00a05000 machines environ par data center, il y a r\u00e9guli\u00e8rement une dizaine de pannes par jour. Donc, cela fait gagner du temps. Ces serveurs sont des lames standard de type PC tournant sous Linux. Ce sont des machines “peu fiables” aux dires<\/a>de Google, mais peu importe, c’est l’architecture logicielle qui apporte la fiabilit\u00e9 \u00e0 l’ensemble. Ce ne sont pas les machines les plus puissantes du moment, mais celles qui apportent le meilleur rapport puissance\/prix du moment. Les racks ont 40 \u00e0 80 serveurs chacun, connect\u00e9s entre eux en 100 mbits\/s, le rack \u00e9tant lui-m\u00eame en liaison Gigabit avec les autres. Chaque serveur a une dur\u00e9e de vie de 2 \u00e0 3 ans. L’alimentation \u00e9lectrique et le refroidissement de ces racks sont des d\u00e9fis de taille \u00e0 eux seuls qui entrainent moutle calculs techniques et \u00e9conomiques pour optimiser l’ensemble, la facture d’\u00e9lectricit\u00e9 de Google \u00e9tant l’une de ses plus grosses charges d’exploitation!<\/li>\n
- Il y a plusieurs clusters<\/strong>d’environ 5000 serveurs r\u00e9partis dans le monde entier, ce qui apporte une forte tol\u00e9rance aux pannes de r\u00e9seau sur Internet. La r\u00e9partition de charge s’effectue au niveau DNS pour identifier le cluster le plus proche de l’utilisateur au niveau temps de latence r\u00e9seau.<\/li>\n
- Google s’est cr\u00e9\u00e9 son propre syst\u00e8me de gestion de fichiers distribu\u00e9, qui tourne sous Linux: le Google File System<\/a>. Il distribue les recherches de fichiers sur plusieurs serveurs de fa\u00e7on extr\u00eamement efficace. C’est un peu gr\u00e2ce \u00e0 lui que le r\u00e9sultat d’une recherche aboutit dans notre navigateur en quelques millisecondes de traitement.<\/li>\n
- GFS est compl\u00e9t\u00e9 par BigTable<\/a>, une sorte de base de donn\u00e9es hi\u00e9rarchique (donc non relationnelle) scalable pour la gestion de gros volumes de donn\u00e9es qui doivent \u00eatre acc\u00e9d\u00e9s tr\u00e8s rapidement. Cela sert notamment \u00e0 Google Analytics (l’outil d’analyse du trafic sur son propre site Web o\u00f9 l’on a plac\u00e9 de la publicit\u00e9 Google AdSense, 200 teraoctets de donn\u00e9es rien que pour le stockage des clicks sur les sites abonn\u00e9s au service), Google Earth et \u00e0 Personnalize Search, une fonction m\u00e9connue qui personnalise les r\u00e9sultats de la recherche pour les utilisateurs qui sont identifi\u00e9s sur le moteur de recherche par un logon, le logon commun \u00e0 Gmail et autres services personnels de Google.<\/li>\n
- Ils ont d\u00e9fini leur propre architecture de parall\u00e9lisation <\/strong>des traitements avec le Global Work Queue et MapReduce<\/a> qui permet de d\u00e9couper un traitement en morceaux. MapReduce est utilis\u00e9 au travers d’un langage de programmation maison Sawzall<\/a>. Au passage, l’architecture de Google b\u00e9n\u00e9ficie donc\u00a0\u00e0 plein des nouveaux processeurs \u00e0 hyperthreading et multi-coeurs qui permettent de parall\u00e9liser les traitements sur une m\u00eame machine.<\/li>\n<\/ul>\n
Nombre de ces aspects sont document\u00e9s dans des publications scientifiques des Google Labs disponibles sur leur site : http:\/\/labs.google.com\/papers\/<\/a>. Ce domaine est passionnant et on pourrait y passer des heures pour d\u00e9cortiquer son fonctionnement. Certaines soci\u00e9t\u00e9s de\u00a0service\u00a0en ont d’ailleurs fait leur m\u00e9tier pour aider les sites Web \u00e0 bien se faire r\u00e9f\u00e9rencer sur Internet! Il sera aussi int\u00e9ressant de voir documenter la gestion des vid\u00e9os maintenant qu’il ne s’agit plus que de les indexer avec Google Video, mais \u00e9galement de les stocker et de les diffuser, via YouTube!<\/p>\n
![\"\"](\"https:\/\/www.oezratty.net\/wordpress\/wp-content\/WindowsLiveWriter\/InsideGoogle_9597\/image0_thumb4.png\")
<\/a><\/p>\nComparaison in\u00e9vitable avec Microsoft. L’\u00e9diteur a \u00e9galement une grande tradition de publication de travaux scientifiques, notamment par le truchement du site de Microsoft Research<\/a>. Mais la partie du site<\/a> qui rel\u00e8ve du search \u00e9voque la cr\u00e9ation d’un laboratoire commun sur le search avec MSN en Chine, mais rien de plus. Et cela ne concerne pas ce qui est en exploitation comme Google. La partie est difficile pour Microsoft car rattraper le savoir faire de Google, quand on se plonge dedans, est loin d’\u00eatre \u00e9vident. Microsoft parie surtout sur des \u00e9volutions d’interface comme pour la recherche de photos pr\u00e9sent\u00e9e de fa\u00e7on sympathique avec la possibilit\u00e9 de choisir la taille des “thumbnails”. Mais c’est loin d’\u00eatre suffisant pour faire la diff\u00e9rence. C’est un sujet \u00e0 creuser car le manque d’informations de la part de Microsoft ne veut pas dire qu’ils sont inactifs en R&D sur le search, loin s’en faut!<\/p>\n
J’\u00e9voquais au d\u00e9but cette marge \u00e9norme de Google lui permettant de financer des tests de services sans se soucier trop de logique \u00e9conomique au d\u00e9part. Google “crache” en effet aujourd’hui une profitabilit\u00e9 nette de 27%, soit celle la moyenne de celle de Microsoft ces derni\u00e8res ann\u00e9es. Soient presque\u00a0$3B pour 2006, extrapol\u00e9s des $2046m sur les 9 derniers mois. Leur bilan en octobre 2006 comprenait environ $10B de cash disponible. Mais tout ceci, c’est le profit et le cash g\u00e9n\u00e9r\u00e9s apr\u00e8s<\/span> les d\u00e9penses en R&D, en infrastructure et en acquisitions \u00e9voqu\u00e9es dans cet article! Ils ont donc un sacr\u00e9 mou pour prendre des risques. C’est\u00a0le grand privil\u00e8ge des num\u00e9ro un dont la taille critique leur permet d’absorber la valeur de leur secteur!<\/p>\n
Alice Bonhomme faisait cette conf\u00e9rence aux \u00e9l\u00e8ves centraliens dans le cadre de ses 20% de temps consacr\u00e9 \u00e0 des projets libres de son choix. Car Google recrute \u00e0 tour de bras pour supporter sa croissance qui n’en finit pas. Mais elle a oubli\u00e9 de citer le b\u00e9n\u00e9fice du “free lunch” \u00e0 ces recrues potentielles. Car chez Google, c’est boisson et<\/strong> repas gratuits, en plus du plaisir de pouvoir venir travailler accoutr\u00e9 comme bon vous semble! Tout du moins dans les labs… :).<\/p>\n
Ce post faisait lui aussi partie de mon “20% de temps libre”… pour de la veille technlologique!<\/p>\n","protected":false},"excerpt":{"rendered":"
J’ai assist\u00e9 r\u00e9cemment \u00e0 une pr\u00e9sentation d’Alice Bonhomme-Biais, une ing\u00e9nieur fran\u00e7aise en d\u00e9veloppement logiciel chez Google. Elle \u00e9tait destin\u00e9e \u00e0 des \u00e9l\u00e8ves de l’option technologies de l’information de l’Ecole Centrale Paris o\u00f9 j’enseigne sur les Strat\u00e9gies de l’Innovation. En une heure, Alice a dress\u00e9 un portrait fort int\u00e9ressant de la mani\u00e8re dont le […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[19,2,3,5],"tags":[],"class_list":["post-137","post","type-post","status-publish","format-standard","hentry","category-google","category-internet","category-microsoft","category-technologie"],"views":20623,"_links":{"self":[{"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/posts\/137","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/comments?post=137"}],"version-history":[{"count":0,"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/posts\/137\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/media?parent=137"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/categories?post=137"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.oezratty.net\/wordpress\/wp-json\/wp\/v2\/tags?post=137"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
- Il y a plusieurs clusters<\/strong>d’environ 5000 serveurs r\u00e9partis dans le monde entier, ce qui apporte une forte tol\u00e9rance aux pannes de r\u00e9seau sur Internet. La r\u00e9partition de charge s’effectue au niveau DNS pour identifier le cluster le plus proche de l’utilisateur au niveau temps de latence r\u00e9seau.<\/li>\n
- L’index<\/strong>qui pour chaque mot liste les pages et les positions dans les pages o\u00f9 on les trouve. Il fonctionne en mode multilingue et stocke \u00e9galement les informations de lieu et de temps sur les pages index\u00e9es. Le lieu s’identifie probablement via l’adresse IP des sites. Il y plusieurs copies de l’index r\u00e9parties g\u00e9ographiquement et elles tiennent toutes en RAM sur les serveurs. En 2006, Google indexerait environ trois fois plus de pages que ses principaux concurrents (donc: Yahoo et Microsoft). Ils indexent aussi 2 milliards d’image, 35 millions de documents non HTML et un milliard de messages UseNet. L’ensemble fait des Teraoctets, bien \u00e9videmment. L’indexation d’une nouvelle page qui apparait sur Internet prend entre 15 minutes et quelques heures selon l’importance et le trafic du site.<\/li>\n
- Le d\u00e9veloppement de nouveaux services est (serait?) pilot\u00e9 par les \u00e9quipes produits, ind\u00e9pendamment de toute d\u00e9marche marketing <\/strong>ou de mod\u00e8le \u00e9conomique. Le point cl\u00e9 est de cr\u00e9er des services qui ont une grande valeur d’usage pour les utilisateurs et de g\u00e9n\u00e9rer du trafic. Une fois seulement usage et trafic g\u00e9n\u00e9r\u00e9s se pose la question de la mon\u00e9tisation. Sachant qu’en plus, Google fait tr\u00e8s peu de marketing de ses offres. Elles se diffusent en mode viral et gr\u00e2ce au trafic g\u00e9n\u00e9r\u00e9 par le moteur lui-m\u00eame. Ce d\u00e9couplage produit \/ marketing est sommes toutes encore plus fort que ce que j’ai constat\u00e9 chez Microsoft Corp. Il est contre-intuitif pour ceux – comme moi – qui pensent que le marketing doit \u00eatre impliqu\u00e9 le plus en amont possible de la cr\u00e9ation d’un produit pour assurer son alignement avec un besoin march\u00e9 et avec un business qui tienne la route. Google peut \u00e9viter cette d\u00e9marche pour un certain nombre de facteurs dont peu d’entreprises b\u00e9n\u00e9ficient: une marge \u00e9norme g\u00e9n\u00e9r\u00e9e par le coeur de m\u00e9tier qui permet de financer (souvent \u00e0 perte) de nombreux tests de nouveaux produits, le trafic g\u00e9n\u00e9r\u00e9 par le site Google qui permet d’aspirer de nouveaux clients pour ces services, et un mod\u00e8le de revenu indirect bas\u00e9 sur la publicit\u00e9 et la vente de mots cl\u00e9s qui permet de fournir des services gratuits au plus grand nombre.<\/li>\n