Data updated at: November 4, 2024 at 12:31 AM UTC
AWS EC2 instance inf1.2xlarge with 8 vCPUs, 16 GiB RAM . Available in 22 regions starting from $264.26 per month. A -15% cheaper alternative is available.
Instance Type | inf1.2xlarge |
---|---|
Instance Family | Machine Learning ASIC |
Details | Machine Learning (ML) inference inf – AWS Inferentia 1 – Generation 2xlarge – Size |
vCPUs | 8 |
Memory | 16 GiB |
CPU Architecture | x86_64 |
Processor | Intel Xeon Platinum 8275CL (Cascade Lake) |
Clock Speed | 2.5 GHz |
Threads Per Core | 2 |
Accelerators | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
GPU | no | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Inference Accelerator | yes | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Inference Accelerator Name | Inferentia | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Inference Accelerator Manufacturer | AWS | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Inference Accelerator Count | 1 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
FPGA | no |
Instances | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Sizes | inf1.xlarge, inf1.2xlarge, inf1.6xlarge, inf1.24xlarge | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
SageMaker | ml.inf1.2xlarge |
Free Tier | no |
---|---|
Burstable | no |
Hibernation | no |
Instance Storage | EBS only |
EBS (Elastic Block Store) | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
EBS Optimized | default | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Encryption | supported | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
NVMe | required | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Dedicated Throughput | 875 MBps | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Optimized Baseline Bandwidth | 1190 Mbps | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Optimized Baseline Throughput | 148.75 Mbps | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Optimized Baseline Performance | 6000 IOPS | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Optimized Max Performance | 20000 IOPS | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Optimized Max Bandwidth | 4750 Mbps | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Optimized Max Throughput | 593.75 Mbps |
Networking | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Networking Performance | Up to 25 Gigabit | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Enhanced Networking | no | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Max Interfaces | 4 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Max Cards | 1 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
IPv4 Addresses per Interface | 10 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
IPv6 Addresses per Interface | 10 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
IPv6 Support | yes | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ENA Support | required | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
EFA Support | no | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Encryption in Transit Support | yes | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ENA SRD Support | no |
Regional Availability
US
GovCloud (US-East) / us-gov-east-1
GovCloud (US-West) / us-gov-west-1
US East (Ohio) / us-east-2
US East (Virginia) / us-east-1
US West (N. California) / us-west-1
US West (Oregon) / us-west-2
GovCloud (US-East) / us-gov-east-1
GovCloud (US-West) / us-gov-west-1
US East (Ohio) / us-east-2
US East (Virginia) / us-east-1
US West (N. California) / us-west-1
US West (Oregon) / us-west-2
Canada
Canada (Central) / ca-central-1
Canada West (Calgary) / ca-west-1
Canada (Central) / ca-central-1
Canada West (Calgary) / ca-west-1
Europe
Europe (Ireland) / eu-west-1
Europe (London) / eu-west-2
Europe (Frankfurt) / eu-central-1
Europe (Milan) / eu-south-1
Europe (Paris) / eu-west-3
Europe (Spain) / eu-south-2
Europe (Stockholm) / eu-north-1
Europe (Zurich) / eu-central-2
Europe (Ireland) / eu-west-1
Europe (London) / eu-west-2
Europe (Frankfurt) / eu-central-1
Europe (Milan) / eu-south-1
Europe (Paris) / eu-west-3
Europe (Spain) / eu-south-2
Europe (Stockholm) / eu-north-1
Europe (Zurich) / eu-central-2
Africa
Africa (Cape Town) / af-south-1
Africa (Cape Town) / af-south-1
South America
South America (São Paulo) / sa-east-1
South America (São Paulo) / sa-east-1
Asia Pacific
Asia Pacific (Hong Kong) / ap-east-1
Asia Pacific (Hyderabad) / ap-south-2
Asia Pacific (Jakarta) / ap-southeast-3
Asia Pacific (Malaysia) / ap-southeast-5
Asia Pacific (Melbourne) / ap-southeast-4
Asia Pacific (Mumbai) / ap-south-1
Asia Pacific (Osaka) / ap-northeast-3
Asia Pacific (Seoul) / ap-northeast-2
Asia Pacific (Singapore) / ap-southeast-1
Asia Pacific (Sydney) / ap-southeast-2
Asia Pacific (Tokyo) / ap-northeast-1
Asia Pacific (Hong Kong) / ap-east-1
Asia Pacific (Hyderabad) / ap-south-2
Asia Pacific (Jakarta) / ap-southeast-3
Asia Pacific (Malaysia) / ap-southeast-5
Asia Pacific (Melbourne) / ap-southeast-4
Asia Pacific (Mumbai) / ap-south-1
Asia Pacific (Osaka) / ap-northeast-3
Asia Pacific (Seoul) / ap-northeast-2
Asia Pacific (Singapore) / ap-southeast-1
Asia Pacific (Sydney) / ap-southeast-2
Asia Pacific (Tokyo) / ap-northeast-1
Israel
Israel (Tel Aviv) / il-central-1
Israel (Tel Aviv) / il-central-1
Middle East
Middle East (Bahrain) / me-south-1
Middle East (UAE) / me-central-1
Middle East (Bahrain) / me-south-1
Middle East (UAE) / me-central-1
Regional Prices
Geography | Region Name | Region | Savings Options | Instance Price |
---|---|---|---|---|
US | US East (Virginia) | us-east-1 | compare | 0.3620 |
US | US East (Ohio) | us-east-2 | compare | 0.3620 |
US | US West (Oregon) | us-west-2 | compare | 0.3620 |
Hidden | Hidden | hidden-1 | compare | 0.3810 |
Hidden | Hidden | hidden-2 | compare | 0.3850 |
Hidden | Hidden | hidden-3 | compare | 0.4030 |
Hidden | Hidden | hidden-4 | compare | 0.4030 |
Hidden | Hidden | hidden-5 | compare | 0.4230 |
Hidden | Hidden | hidden-6 | compare | 0.4240 |
Hidden | Hidden | hidden-7 | compare | 0.4240 |
Hidden | Hidden | hidden-8 | compare | 0.4350 |
Hidden | Hidden | hidden-9 | compare | 0.4440 |
Hidden | Hidden | hidden-10 | compare | 0.4460 |
Hidden | Hidden | hidden-11 | compare | 0.4530 |
Hidden | Hidden | hidden-12 | compare | 0.4530 |
Hidden | Hidden | hidden-13 | compare | 0.4560 |
Hidden | Hidden | hidden-14 | compare | 0.4560 |
Hidden | Hidden | hidden-15 | compare | 0.4890 |
Hidden | Hidden | hidden-16 | compare | 0.4890 |
Hidden | Hidden | hidden-17 | compare | 0.5580 |
Hidden | Hidden | hidden-18 | compare | 0.5980 |
Similar Alternative Instances
Instance Type | Region | vCPUs | Memory (GiB) | GPU Name | Instance Price | Price Diff % |
---|---|---|---|---|---|---|
m6g.2xlarge | US East (Virginia) (us-east-1) | 8 | 32 | 0.3080 | -15% | |
c8g.2xlarge | US East (Virginia) (us-east-1) | 8 | 16 | 0.3190 | -12% | |
m8g.2xlarge | US East (Virginia) (us-east-1) | 8 | 32 | 0.3590 | -1% | |
inf1.2xlarge | US East (Virginia) (us-east-1) | 8 | 16 | 0.3620 | 0% | |
r8g.2xlarge | US East (Virginia) (us-east-1) | 8 | 64 | 0.4713 | 30% |