aws memo

AWS関連の備忘録 (※本ブログの内容は個人的見解であり、所属組織及び企業の意見を代弁するものではありません。1年以上古いエントリは疑ってかかってください)

2013-01-01から1年間の記事一覧

Spotインスタンスで Private IPを指定して起動する

VPC内でspot requestする際、Management Consoleでは Private IP を指定する項目が無いため、指定したサブネット内の空きアドレスが自動で振られることになる。(正確には、サブネット内の空きアドレスの一つからENIが作られ割り振られる) コマンドラインで…

カスタムのRHEL 6.4 HVM AMIを作る時の注意点

C3で、RHEL 6.4 HVM AMIにSR-IOVドライバを入れる手順はこちら [HPC] C3.8xlarge のRHEL6.4 HVMで SR-IOVを有効にする - aws memo で、ドライバが入った状態のカスタムAMIを作っておきたいと思うのが人情。 この時、create image する前に2つ注意点。(2013年…

EC2の Top500 変遷まとめ

まとめてみた。 Flopsの向上はもちろんだが、年々、Efficiencyが上がっていることが読み取れる。特に、C3になってEnhanced NetworkとしてSR-IOVが使えるようになり、向上している。 cc1.4xlarge cc2.8xlarge c3.8xlarge cores 7,040 17.024 26,496 Linpak(Rm…

[HPC] C3.8xlarge のRHEL6.4 HVMで SR-IOVを有効にする

CC2 (Sandy Bridge) の後継 C3 (Ivy Bridge)が追加された。 詳しくはこちらを参考のこと。 Amazon Web Services ブログ: 【AWS発表】 新世代の数値計算向けEC2インスタンス HPCの観点から見ると、CC2.8xlarge の後継に当たるのは C3.8xlarge となる。 スベッ…

AWS CLIで Spot Instance の価格履歴を CloudWatchで見る

AWS

ということでこれ // Shell Script to bring EC2 SpotInstance Prices to CloudWatch. やっていることは単純で、 ・aws ec2 describe-spot-price-history でヒストリを取得して、 ・aws cloudwatch put-metric-data で、CloudWatchにputしているだけ。

AWS CLI で Route53のレコードを操作する

AWS CLI でRoute53を操作してみる。 ホストの追加や、切り替えをシステムから自動化したい場合などで使える。 参考 change-resource-record-sets — AWS CLI 1.2.0 documentation POST ChangeResourceRecordSets - Amazon Route 53 ゾーン一覧の取得 $ aws ro…

AWS CLIで上限を確認する

AWS

AWSには、各種の上限(ソフトリミット)があり、上限緩和申請で上限を上げることができる。 ※ 詳しくはこちら AWS: サービスの各種上限( softlimit) と上限緩和申請 - aws memo 上限緩和を申請した結果、自分のアカウントの上限が今いくつになっているか?を確…

AWS CLIでEC2を起動 (エフェメラルディスク付き)

AWS CLIで、 run-instances を実行する リファレンスはこちら: run-instances — AWS CLI 1.1.2 documentation RunInstances - Amazon Elastic Compute Cloud ポイントは、--block-device-mappings オプションの JSON記述。 $ aws ec2 run-instances \ --reg…

AWS CLIで VPCのDNS設定を操作する

VPC Defaultのタイミングで対応した、VPCのDNSホスト名、およびDNSの名前解決機能を、AWS CLIでOn/Offする。 Amazon Web Services ブログ: 【AWS発表】Amazon EC2 アップデート - 全ての皆様にVPC (Virtual Private Cloud)を! DNSホスト名のOn/Offを確認する…

AWS CLIで CloudFormationを操作する

CloudFormationのドキュメントで、コマンドラインのところでもすでに(2013.10.18現在) AWS CLIを使うようになっている ※敢えて古い api toolsを使い始めるならこちら( CloudFormaion apitoolsをAmazon Linuxで使う)を参照。 AWS CLIのセットアップ Amazon Li…

CloudFormation apitoolsをAmazon Linuxで使う

CloudFormationのコマンドラインツールをセットアップする。 # すでに AWS CLIが主流ですが、、、、 インストール インストールは大きく2つ。ダウンロードするか、Amazon Linuxなら楽にyumで。 AWS CloudFormation Command Line Tools : Developer Tools : …

RDS: MySQL5.6のプラグイン

RDS MySQL5.6と RDS MySQL5.5で、インストール済みプラグインを比べてみた 5.5 mysql> show plugins; +-----------------------+----------+--------------------+---------+---------+ | Name | Status | Type | Library | License | +--------------------…

RDS: MySQL5.6 のDelayed Replication

RDS MySQLではデフォルトユーザにSUPER権限が付与されていない。5.6のReadReplica ( MySQL Slave)でも同様なので、レプリケーション周りの新機能が使えないことが多い。 MySQL 5.6では、Delayed Replication (遅延レプリケーション) 機能が追加されている My…

RDS: MySQL5.6 のbinlogアクセス権限

RDS MySQLで、5.6のエンジンがサポートされた。 Amazon Web Services ブログ: 【AWS発表】 Amazon RDSがMySQL 5.6をサポート! そのなかで バイナリログアクセス - バイナリログを付属のmysqlbinlogツールを使って、ダウンロードしたりストリームすることがで…

RDS: MySQL 5.1 -> 5.5 メジャーバージョンアップ機能の挙動

Amazon Web Services ブログ: 【AWS発表】 Amazon RDS - MySQLのメジャーバージョンアップグレード機能を追加 ということで、早速動作確認のため、 MySQL 5.1なRDS( db.t1.micro, 5GB) を起動し、Modifyで5.5へ変更。 DB Eventsとしては以下のとおり。 TimeS…

EBS: Provisioned IOPSの性能・ベンチマーク

そのものずばりのページが、EC2のドキュメントにあるので、メモ。 Increasing EBS Performance - Amazon Elastic Compute Cloud 性能を出すには RAID0かRAID1+0 (RAID10) でストライピング 平均キューレングスをチェック EBSボリューム利用前にプリロード(※)…

AWS: JavaのDNSキャッシュ ( TTL )について

AWS

AWSのサービスではDNSを用いて可用性を向上する仕組みを用いている。 各種APIのエンドポイント RDSのエンドポイント ELBのエンドポイント ElastiCacheのエンドポイント CloudSearchのエンドポイント Redshiftのエンドポイント などなど。AWSが提供するエンド…

AWS: 管理系サービス (SaaS) まとめ

色々出てきているので、備忘を兼ねて。 コメントはメモ書き程度の感想なので、詳細は各ページを見に行く。気がついたら追加する予定。 定番。マルチクラウドの管理も可能。 こちらも定番。自動化とかが便利かも。 自動化、スケジュール、マルチクラウド、Che…

RDS: Provisioned IOPS (PIOPS)の性能について覚書き

EBSでのProvisioned IOPS (以下 PIOPS) が出て、しばらくして RDSでも PIOPSに対応した。その後、RDSのIOPS上限が10,000から30,000に引き上げられた。 Amazon Web Services ブログ: 【AWS発表】Amazon RDS がスケールアップ! 3 TB、30,000 PIOPSまで拡張可能…

RDS: MySQLのログを取得する

RDSのログファイルを取得出来るようになった Amazon Web Services ブログ: 【AWS発表】Amazon RDS - より簡単にログファイルにアクセス可能に ということで、RDS( MySQL )のログを取得する手順。 注意点として、RDS(MySQL)では4種類のログ(エラーログ、エラ…

EC2: RDS: Amazon LinuxでRDSのCLIを使う

Amazon Linuxにはデフォルトで各種CLIツールがインストールされている。 また、インスタンス起動時にIAM Roleを設定していれば、EC2などのAIM Roleに対応しているCLIツールは認証設定をせずに実行可能になる。 RDS CLIはIAM Role未対応なので、以下の様な手…

RDS: MySQLにSSL接続する

RDSではSSL通信が有効になっている( SSL Support) ので、こちらで接続してみる。 まずは、RDSに通常の方法でログインして、状態確認 $ mysql -utest -ptest -h aa.bb.ap-northeast-1.rds.amazonaws.com mysql> show status like 'ssl_cipher'; +------------…

AWS: サービスの各種上限( softlimit) と上限緩和申請

AWSのアカウントを作成した状態では、各種サービスの使用量に制限がかかっている(ソフトリミット) 例えば、EC2だとMax 20台しか起動できない、EIPは5個までしか確保できない、等。 一覧がこちら。 AWS Service Limits - Amazon Web Services General Refer…

EC2: GlusterFS in AWS

GlusterFS on AWSといえば、 #ヤマン のスライドですね。(後述) こちらの記事では、実際の設定手順等が書かれてある。 GlusterFS in AWS | Celingest Blog – Feel the Cloud ---以下、拾い訳-- 事前の考慮点 アベイラビリティゾーン(AZ)を跨いだ2台のサーバ…

S3: バケットポリシーで特定のアカウントに対して参照可能にする

S3の利用方法としては静的Webサーバが便利で良く使われている。この場合、アクセス制御は基本的に全開にすることが多い。 一方、EMRの入出力で使用するバケットは、httpアクセスすることは少なく、特定のアカウントからのS3 APIでのアクセスのみ、というケー…

ElastiCache: AutoDiscovery をPHPで使う

ElastiCacheに AutoDiscovery機能が付き、phpクライアントも出た。(Cache Engine 1.4.14以降で有効) ちょうど1年前に、このような記事(Amazon ElastiCache の分散方法 )を書いたが、この際は、ElastiCacheの複数ノードを扱うには、Mamcached::addServers(…