aws memo

AWS関連の備忘録 (※本ブログの内容は個人的見解であり、所属組織及び企業の意見を代弁するものではありません。1年以上古いエントリは疑ってかかってください)

RDS: MySQL5.6のプラグイン

RDS MySQL5.6と RDS MySQL5.5で、インストール済みプラグインを比べてみた 5.5 mysql> show plugins; +-----------------------+----------+--------------------+---------+---------+ | Name | Status | Type | Library | License | +--------------------…

RDS: MySQL5.6 のDelayed Replication

RDS MySQLではデフォルトユーザにSUPER権限が付与されていない。5.6のReadReplica ( MySQL Slave)でも同様なので、レプリケーション周りの新機能が使えないことが多い。 MySQL 5.6では、Delayed Replication (遅延レプリケーション) 機能が追加されている My…

RDS: MySQL5.6 のbinlogアクセス権限

RDS MySQLで、5.6のエンジンがサポートされた。 Amazon Web Services ブログ: 【AWS発表】 Amazon RDSがMySQL 5.6をサポート! そのなかで バイナリログアクセス - バイナリログを付属のmysqlbinlogツールを使って、ダウンロードしたりストリームすることがで…

RDS: MySQL 5.1 -> 5.5 メジャーバージョンアップ機能の挙動

Amazon Web Services ブログ: 【AWS発表】 Amazon RDS - MySQLのメジャーバージョンアップグレード機能を追加 ということで、早速動作確認のため、 MySQL 5.1なRDS( db.t1.micro, 5GB) を起動し、Modifyで5.5へ変更。 DB Eventsとしては以下のとおり。 TimeS…

EBS: Provisioned IOPSの性能・ベンチマーク

そのものずばりのページが、EC2のドキュメントにあるので、メモ。 Increasing EBS Performance - Amazon Elastic Compute Cloud 性能を出すには RAID0かRAID1+0 (RAID10) でストライピング 平均キューレングスをチェック EBSボリューム利用前にプリロード(※)…

AWS: JavaのDNSキャッシュ ( TTL )について

AWS

AWSのサービスではDNSを用いて可用性を向上する仕組みを用いている。 各種APIのエンドポイント RDSのエンドポイント ELBのエンドポイント ElastiCacheのエンドポイント CloudSearchのエンドポイント Redshiftのエンドポイント などなど。AWSが提供するエンド…

AWS: 管理系サービス (SaaS) まとめ

色々出てきているので、備忘を兼ねて。 コメントはメモ書き程度の感想なので、詳細は各ページを見に行く。気がついたら追加する予定。 定番。マルチクラウドの管理も可能。 こちらも定番。自動化とかが便利かも。 自動化、スケジュール、マルチクラウド、Che…

RDS: Provisioned IOPS (PIOPS)の性能について覚書き

EBSでのProvisioned IOPS (以下 PIOPS) が出て、しばらくして RDSでも PIOPSに対応した。その後、RDSのIOPS上限が10,000から30,000に引き上げられた。 Amazon Web Services ブログ: 【AWS発表】Amazon RDS がスケールアップ! 3 TB、30,000 PIOPSまで拡張可能…

RDS: MySQLのログを取得する

RDSのログファイルを取得出来るようになった Amazon Web Services ブログ: 【AWS発表】Amazon RDS - より簡単にログファイルにアクセス可能に ということで、RDS( MySQL )のログを取得する手順。 注意点として、RDS(MySQL)では4種類のログ(エラーログ、エラ…

EC2: RDS: Amazon LinuxでRDSのCLIを使う

Amazon Linuxにはデフォルトで各種CLIツールがインストールされている。 また、インスタンス起動時にIAM Roleを設定していれば、EC2などのAIM Roleに対応しているCLIツールは認証設定をせずに実行可能になる。 RDS CLIはIAM Role未対応なので、以下の様な手…

RDS: MySQLにSSL接続する

RDSではSSL通信が有効になっている( SSL Support) ので、こちらで接続してみる。 まずは、RDSに通常の方法でログインして、状態確認 $ mysql -utest -ptest -h aa.bb.ap-northeast-1.rds.amazonaws.com mysql> show status like 'ssl_cipher'; +------------…

AWS: サービスの各種上限( softlimit) と上限緩和申請

AWSのアカウントを作成した状態では、各種サービスの使用量に制限がかかっている(ソフトリミット) 例えば、EC2だとMax 20台しか起動できない、EIPは5個までしか確保できない、等。 一覧がこちら。 AWS Service Limits - Amazon Web Services General Refer…

EC2: GlusterFS in AWS

GlusterFS on AWSといえば、 #ヤマン のスライドですね。(後述) こちらの記事では、実際の設定手順等が書かれてある。 GlusterFS in AWS | Celingest Blog – Feel the Cloud ---以下、拾い訳-- 事前の考慮点 アベイラビリティゾーン(AZ)を跨いだ2台のサーバ…

S3: バケットポリシーで特定のアカウントに対して参照可能にする

S3の利用方法としては静的Webサーバが便利で良く使われている。この場合、アクセス制御は基本的に全開にすることが多い。 一方、EMRの入出力で使用するバケットは、httpアクセスすることは少なく、特定のアカウントからのS3 APIでのアクセスのみ、というケー…

ElastiCache: AutoDiscovery をPHPで使う

ElastiCacheに AutoDiscovery機能が付き、phpクライアントも出た。(Cache Engine 1.4.14以降で有効) ちょうど1年前に、このような記事(Amazon ElastiCache の分散方法 )を書いたが、この際は、ElastiCacheの複数ノードを扱うには、Mamcached::addServers(…

EC2: Amazon LinuxにWordPressを急ぎで入れる (その3)

Amazon Linux + RDS (MySQL)でWordPress環境をつくる手順のコピペメモ。 事前にRDS(MySQL)をDBユーザ wpuser、DBパスワード wppassword、DB名wordpressで作成して、エンドポイント(ホスト名)を控えておく。 # install package and start sudo yum -y update …

EC2: Amazon LinuxにWordPressを急ぎで入れる (その2)

Amazon Linuxにデータ用のEBSを追加で /dev/sdf にアタッチしているだけの状態からWordPressを急ぎで入れる手順のコピペ用メモ # install package sudo yum -y update sudo yum -y install httpd mysql-server php php-mysql php-mbstring sudo /sbin/chkcon…

EC2: Amazon LinuxにWordPressを急ぎで入れる (その1)

とりいそぎでWordPressを入れる手順のコピペ用メモ。 # install package and start sudo yum -y update sudo yum -y install httpd mysql-server php php-mysql php-mbstring sudo /sbin/chkconfig mysqld on sudo /sbin/chkconfig httpd on sudo /etc/init.…

カジュアルに鯖を監視するNewRelic をAmazon Linux に導入

今っぽい感じのSaaS型監視サービス NewRelicを Amazon Linuxに入れてみる。( Newvem とか Server DensityとかPingdomとかもある) New Relic は、エージェントを監視対象ノードに入れておく点は Zabbix等と変わらないが、監視サーバを構築しないですぐに(無…

S3: S3のURL

S3のWebサイトホスティング機能にリダイレクト機能が加わった。 リダイレクトさせたいオブジェクトのメタデータとして、Website Redirect Locationを設定すればOK. ただし、URLは、S3のAPI URL (endpoint)ではなく、Website endpointを指定しないとリダイレ…

メモ: PinterestとInstagramのAWS利用状況

PinterestもInstagramも成長スピードがものすごい。 Pinterest AWS SUMMIT NY 2012 のKeyNote中にあったPinterestのパートが記事になっている Pinterest growth driven by Amazon cloud scalability - Techworld.com High Scalability - High Scalability - …

訳:どのようにしてVimeoはEC2の費用を50%削減したか

これは面白い記事。 High Scalability - High Scalability - How Vimeo Saves 50% on EC2 by Playing a Smarter Game == ビデオトランスコーディング処理用のEC2インスタンス費用を、スポットインスタンス、オンデマンドインスタンス、リザーブドインスタ…

EC2: スケジュールイベントでリタイア通知

EC2インスタンスを使っていると、稀に、EC2インスタンスを動かしている物理マシンのメンテンナンスが必要になる場合に遭遇する。メンテナンスイベントには何種類かあり、Instance reboot、System reboot、 Instance retirement などがある。詳しくはマニュア…

EC2: CC2用Scientific Linux6.2のAMIを作成する

cc1, cc2, cg1 といったクラスタコンピュートインスタンス( Culster Compute) 用のLinux AMIは、その他のインスタンスタイプ用の準仮想化(Para-Virtualization, PV) AMIではなく、完全仮想化(HVM) AMIとなっており、そのままでは使えない。 フォーラムにCent…

リーンスタートアップとDevOps

ビジネスとシステムという少し距離のある2つだが、共通点が非常に多いし、ゴールは実は同じという点で、リーンスタートアップとDevOpsを組み合わせることは非常に効果的だろう。 つまり、常に計測可能な数字をもって仮説とし、それを測定する仕組みも必ず一…

Neo4j インターナル

代表的なOSS GraphDB であるNeo4jの内部データ構造などの解説資料。 An overview of Neo4j Internals from Tobias Lindaaker これである程度イメージしてからコードにあたると読みやすいかも。あと、そもそもNeo4jのおさらいしなきゃ(汗)っていう自分向け…

S3: Windowsからマウントして使う

いろいろあるので取り敢えず列挙。(そのうち感想を追記するかも) TntDrive Gradinet Eugrid 気になるのは、NTFSとかちゃんと出来るのか、オフライン時の挙動はどうなるのか?などなど。 てことで、本格的に使うなら、S3対応NASとかStorage Gatewayとかを使…

Amazon Linux用の Zabbix RPMを作る

Amazon Linuxで Zabbix 2.0系を動かすには、現状はソースからコンパイルが必要。@kodai74 さんが公開している RHEL/CentOS用RPMだと、libmysqlclient.soの依存関係で怒られる(Amazon Linuxだと新しすぎるorz)。 てことで、RPMを自前で作っておいて、ばら撒…

S3: Amazon Linuxにs3cmdをインストールしてコマンドラインでS3を操作する

S3は、まずは Management ConsoleやCloud Berry Explorer、CyberDuckといったGUIツールから使うか、 AWS SDK for PHP, Java, Ruby, .NET といったAPI経由で使うことが多い。(参考:S3の関連ツール・ライブラリ等 - aws memo ) バックアップ処理など、cronな…

Amazon Linux でApacheのログを Fluentd経由でMongoDBに集約する

10genからこんな記事が The 10gen Blog on MongoDB and NoSQL, Fluentd + MongoDB: The Easiest Way to Log Your Data Effectively. === ということで、Amazon Linuxでの環境構築メモ まずは、httpd+Fluentdを入れるインスタンス (web)と、MongoDBを入れるイ…