Best Engine

ITの最新動向を紹介する技術情報サイト

Case Study

OCP仕様のビッグデータ基盤を構築し、
サービスのイノベーションとコスト競争力強化を推進
ヤフー株式会社様

会社名 ヤフー株式会社
所在地 東京都千代田区紀尾井町1-3
東京ガーデンテラス紀尾井町 紀尾井タワー
設立 1996年1月31日
資本金 8,388百万円(2016年6月30日時点)
従業員数 5,830人(2016年6月30日時点)
URL http://www.yahoo.co.jp/
YJ America, Inc. エグゼクティブ・バイスプレジデント 松谷 憲文氏

YJ America, Inc.
エグゼクティブ・バイスプレジデント

松谷 憲文氏

国内初の商用検索サイトとして誕生した「Yahoo! JAPAN」を運営するヤフー株式会社。スマートフォンの普及もあり、サイトのアクセス数は順調に伸び続けている。今年設立20周年の節目を迎えた同社は、新ビジョンとして「UPDATE JAPAN」を宣言した。「広告」「eコマース」「決済金融」を柱とする既存事業の全領域でイノベーションを起こしながら、より強固な経営基盤を築いていく方針だ。その取り組みの一環として、同社の米国現地法人であるYJ America, Inc(. 以下YJ America)が所有するデータセンターでは、ビッグデータ活用の推進を加速している。C T C のグループ会社であるITOCHU Techno-Solutions America,Inc(. 以下CTCアメリカ)は「OCP(オープンコンピュートプロジェクト)」仕様に準拠したビッグデータ基盤を提案、パートナーとしてヤフー株式会社のイノベーションを支えている。

トランザクションやデータ量の増大でデータセンターの運用コストが膨張

100を超えるインターネットサービスを提供し、月間ページビュー数が700億に迫る「Yahoo! JAPAN」。そこから得られる膨大なデータをいかに活用し、既存事業のイノベーションや新規事業の創出につなげていくかはヤフーにとって重要な経営課題だ。同社は早い時期から大規模データの蓄積・分析を分散処理技術によって実現するミドルウェア「Hadoop」を導入し、ビッグデータを“生きた情報”に変え、レコメンデーション機能など、サービスの向上や開発に役立ててきた。しかし、スマートフォンの普及などを背景に、トランザクションやデータ量は加速度的に増加。日本国内の既存のデータセンターにおいてシステムを拡張し、増え続ける電力コストを抑えるためには大きな負担を強いられることになったため、その対策として米国に最新の仕組みを取り入れた新たな拠点を作る計画に着手した。

拡張性と低電力を両立するOCP仕様のビッグデータ基盤を完成

「目指すのは世界トップクラス。様々な制約はありましたが、やるからにはそこを狙いたい、とCTCアメリカに言いました」と語るのはヤフー株式会社の米国現地法人YJ Americaでヤフーのインフラ全般を担当するエグゼクティブ・バイスプレジデントの松谷憲文氏だ。

2015年3月、CTCアメリカは松谷氏と出会い、同社がインフラ基盤の改革を推し進めていることを知った。そこでCTCアメリカは、OCP(オープンコンピュートプロジェクト)に準拠した形でビッグデータ基盤を構築すれば、課題をクリアできると提案した。

既に米国では「ウェブスケール」や「ハイパースケール」など、ビッグデータを処理するような大規模インフラを必要とする事業者は、特定のベンダーに依存することなく、機器調達をするのが主流となっていた。OCPはその流れを汲むエンジニアコミュニティだ。Facebookがサーバなどのハードウェア設計図や仕様のオープンソース化を推進することを目的に2011年に立ち上げ、メンバーにはインテル、IBMなどのハードウェアベンダー、Microsoft、VMwareなどのソフトウェアベンダーをはじめ世界150社以上が名を連ねている。

組み立てが終わり出荷を待つOCPサーバ。

組み立てが終わり出荷を待つOCPサーバ。

CTCアメリカによるFacebook主催のハードウェアハッカソンへの参加などを契機にCTCはOCPの運営団体であるOpen Compute Project Foundationからソリューションプロバイダ認定を受け、OCPが正式に認定する製品の販売から設計、構築、保守を開始するに至っていた。OCPを採用すれば、低消費電力、低コストでスケーラブルなコンピューティング環境を実現する次世代のデータセンターを目指すことができる。そう確信したCTCアメリカは松谷氏と共にFacebookのデータセンターを視察した。

「収集されたビッグデータを蓄積・分析し、新たなサービスを生み出すための基盤です。膨大なデータに柔軟に対応できるよう、構造がシンプルでスケールアウトモデルな点が魅力でした。購入できるサーバの中で世界一の稼働実績があることで導入を決めたんです」(松谷氏)。

同氏はCTCアメリカと共にOCPの導入を検討し、ハードウェア調達からシステム構築、運用開始前の品質検証までを共同で進め、ビッグデータを高効率に処理できる1,200台のサーバと120ペタバイトのストレージで構成したHadoop基盤を作り上げた。

パートナーとして同じ方向を見ながら、共に歩んで欲しい

CTCの総合検証センター Technical Solution Center内にあるOCP準拠の製品。

CTCの総合検証センター Technical Solution Center内にあるOCP準拠の製品。

インターネットの爆発的な普及を背景に、ITの力で人と社会の課題を解決する「課題解決エンジン」を標榜し、躍進を続けてきたヤフー株式会社。OCPに準拠したHadoop基盤を実現したことで大量のビッグデータをこれまで以上に高効率処理できるようになったのと同時に、ITコスト削減を実現させた。同社は今回のプロジェクトを通して得たノウハウを日本でのシステム強化の面にも活用している。

また、CTCアメリカは、OCP準拠のHadoop基盤に加え、オープンソースのクラウド管理ソフトウェア「OpenStack」やコンテナ管理ソフトウェア「kubernetes(クーバーネイティス)」を使用したYJ Americaのインフラ管理環境の構築も支援した。OCPを起点にアプリケーションレイヤーでも最新技術を使用したサポートを徹底していく。

「米国でのパートナーにCTCアメリカを選んだのは、私たちと同じマインドで課題に取り組んでくれる姿勢が伝わってきたからでした。マルチベンダーとして豊富なノウハウと世界との強力なパイプを併せ持つCTCには今後もビジネスパートナーとして共に前に進んでいただけることを期待しています」(松谷氏)。

出典:Best Engine Vol.2

記載内容は掲載当時の情報です。最新情報と異なる場合がありますのでご了承ください。