Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Maksimalkan kinerja Lambda SnapStart
Penyempurnaan performa
Untuk memaksimalkan manfaat SnapStart, pertimbangkan rekomendasi pengoptimalan kode berikut untuk runtime Anda.
catatan
SnapStart bekerja paling baik bila digunakan dengan pemanggilan fungsi dalam skala besar. Fungsi yang jarang dipanggil mungkin tidak mengalami peningkatan kinerja yang sama.
Untuk memaksimalkan manfa SnapStart atnya, sebaiknya Anda memuat terlebih dahulu dependensi dan menginisialisasi sumber daya yang berkontribusi pada latensi startup dalam kode inisialisasi Anda, bukan di pengendali fungsi. Ini memindahkan latensi yang terkait dengan pemuatan kelas berat keluar dari jalur pemanggilan, mengoptimalkan kinerja startup dengan SnapStart.
Jika Anda tidak dapat memuat dependensi atau sumber daya selama inisialisasi, sebaiknya Anda memuatnya dengan pemanggilan dummy. Untuk melakukan ini, perbarui kode pengendali fungsi, seperti yang ditunjukkan pada contoh berikut dari fungsi toko hewan peliharaan
private static SpringLambdaContainerHandler<AwsProxyRequest, AwsProxyResponse> handler; static { try { handler = SpringLambdaContainerHandler.getAwsProxyHandler(PetStoreSpringAppConfig.class); // Use the onStartup method of the handler to register the custom filter handler.onStartup(servletContext -> { FilterRegistration.Dynamic registration = servletContext.addFilter("CognitoIdentityFilter", CognitoIdentityFilter.class); registration.addMappingForUrlPatterns(EnumSet.of(DispatcherType.REQUEST), false, "/*"); }); // Send a fake Amazon API Gateway request to the handler to load classes ahead of time ApiGatewayRequestIdentity identity = new ApiGatewayRequestIdentity(); identity.setApiKey("foo"); identity.setAccountId("foo"); identity.setAccessKey("foo"); AwsProxyRequestContext reqCtx = new AwsProxyRequestContext(); reqCtx.setPath("/pets"); reqCtx.setStage("default"); reqCtx.setAuthorizer(null); reqCtx.setIdentity(identity); AwsProxyRequest req = new AwsProxyRequest(); req.setHttpMethod("GET"); req.setPath("/pets"); req.setBody(""); req.setRequestContext(reqCtx); Context ctx = new TestContext(); handler.proxy(req, ctx); } catch (ContainerInitializationException e) { // if we fail here. We re-throw the exception to force another cold start e.printStackTrace(); throw new RuntimeException("Could not initialize Spring framework", e); } }
Untuk memaksimalkan manfaat SnapStart, fokuslah pada organisasi kode yang efisien dan manajemen sumber daya dalam fungsi Python Anda. Sebagai pedoman umum, lakukan tugas komputasi berat selama fase in isialisasi. Pendekatan ini memindahkan operasi yang memakan waktu keluar dari jalur pemanggilan, meningkatkan kinerja fungsi secara keseluruhan. Untuk menerapkan strategi ini secara efektif, kami merekomendasikan praktik terbaik berikut:
-
Impor dependensi di luar pengendali fungsi.
-
Buat
boto3instance di luar handler. -
Inisialisasi sumber daya statis atau konfigurasi sebelum handler dipanggil.
-
Pertimbangkan untuk menggunakan hook runtime sebelum snapshot untuk tugas-tugas padat sumber daya seperti mengunduh file eksternal, kerangka kerja pra-pemuatan seperti Django, atau memuat model pembelajaran mesin.
contoh— Optimalkan fungsi Python untuk SnapStart
# Import all dependencies outside of Lambda handler from snapshot_restore_py import register_before_snapshot import boto3 import pandas import pydantic # Create S3 and SSM clients outside of Lambda handler s3_client = boto3.client("s3") # Register the function to be called before snapshot @register_before_snapshot def download_llm_models(): # Download an object from S3 and save to tmp # This files will persist in this snapshot with open('/tmp/FILE_NAME', 'wb') as f: s3_client.download_fileobj('amzn-s3-demo-bucket', 'OBJECT_NAME', f) ... def lambda_handler(event, context): ...
Untuk mengurangi waktu kompilasi just-in-time (JIT) dan pemuatan perakitan, pertimbangkan untuk memanggil pengendali fungsi Anda dari hook runtime. RegisterBeforeCheckpoint Kait SnapStart runtime Lambda untuk .NET Karena cara kerjan.NET berjenjang kompilasi, Anda akan mendapatkan hasil yang optimal dengan memanggil handler beberapa kali, seperti yang ditunjukkan pada contoh berikut.
penting
Pastikan bahwa pemanggilan fungsi dummy Anda tidak menghasilkan efek samping yang tidak diinginkan, seperti memulai transaksi bisnis.
contoh
public class Function { public Function() { Amazon.Lambda.Core.SnapshotRestore.RegisterBeforeSnapshot(FunctionWarmup); } // Warmup method that calls the function handler before snapshot to warm up the .NET code and runtime. // This speeds up future cold starts after restoring from a snapshot. private async ValueTask FunctionWarmup() { var request = new APIGatewayProxyRequest { Path = "/heathcheck", HttpMethod = "GET" }; for (var i = 0; i < 10; i++) { await FunctionHandler(request, null); } } public async Task<APIGatewayProxyResponse> FunctionHandler(APIGatewayProxyRequest request, ILambdaContext context) { // // Process HTTP request // var response = new APIGatewayProxyResponse { StatusCode = 200 }; return await Task.FromResult(response); } }
Praktik terbaik jaringan
Status koneksi yang dibuat fungsi Anda selama fase inisialisasi tidak dijamin saat Lambda melanjutkan fungsi Anda dari snapshot. Dalam kebanyakan kasus, koneksi jaringan yang dibuat AWS SDK dilanjutkan secara otomatis. Untuk koneksi lain, kami merekomendasikan praktik terbaik berikut.
Re-establish koneksi jaringan
Selalu buat kembali koneksi jaringan Anda saat fungsi Anda dilanjutkan dari snapshot. Kami menyarankan Anda membangun kembali koneksi jaringan di pengendali fungsi. Atau, Anda dapat menggunakan hook Terapkan kode sebelum atau sesudah snapshot fungsi Lambda runtime setelah pemulihan.
Jangan gunakan nama host sebagai pengenal lingkungan eksekusi yang unik
Kami menyarankan agar tidak menggunakan hostname untuk mengidentifikasi lingkungan eksekusi Anda sebagai node atau wadah unik dalam aplikasi Anda. Dengan SnapStart, snapshot tunggal digunakan sebagai status awal untuk beberapa lingkungan eksekusi. Semua lingkungan eksekusi mengembalikan hostname nilai yang sama untuk InetAddress.getLocalHost() (Java), socket.gethostname() (Python), dan Dns.GetHostName() (.NET). Untuk aplikasi yang memerlukan identitas atau hostname nilai lingkungan eksekusi yang unik, sebaiknya buat ID unik di pengendali fungsi. Atau, gunakan hook runtime setelah pemulihan untuk menghasilkan ID unik, lalu gunakan ID unik sebagai pengidentifikasi untuk lingkungan eksekusi.
Hindari mengikat koneksi ke port sumber tetap
Sebaiknya hindari mengikat koneksi jaringan ke port sumber tetap. Koneksi dibuat kembali ketika fungsi dilanjutkan dari snapshot, dan koneksi jaringan yang terikat ke port sumber tetap mungkin gagal.
Hindari menggunakan cache DNS Java
Fungsi lambda sudah menyimpan respons DNS. Jika Anda menggunakan cache DNS lain dengan SnapStart, maka Anda mungkin mengalami batas waktu koneksi saat fungsi dilanjutkan dari snapshot.
Kel java.util.logging.Logger as dapat secara tidak langsung mengaktifkan cache DNS JVM. Untuk mengganti pengaturan default, setel networkaddress.cac logger Contoh:
public class MyHandler { // first set TTL property static{ java.security.Security.setProperty("networkaddress.cache.ttl" , "0"); } // then instantiate logger var logger = org.apache.logging.log4j.LogManager.getLogger(MyHandler.class); }
Untuk mencegah UnknownHostException kegagalan dalam runtime Java 11, sebaiknya setel networkaddress.cache.negative.ttl ke 0. Di Java 17 dan runtime yang lebih baru, langkah ini tidak diperlukan. Anda dapat mengatur properti ini untuk fungsi Lambda dengan variabel AWS_LAMBDA_JAVA_NETWORKADDRESS_CACHE_NEGATIVE_TTL=0 lingkungan.
Menonaktifkan cache DNS JVM tidak menonaktifkan caching DNS terkelola Lambda.