Boa constrictor menjinakkan Graal VM

Banyak hal menarik yang terjadi di dunia Jawa belakangan ini. Salah satu acara tersebut adalah peluncuran versi siap produksi pertama dari Graal VM.

Secara pribadi, Graal telah lama menjadi sumber minat yang tidak terselubung bagi saya, dan saya mengikuti dengan cermat laporan dan berita terbaru di bidang ini. Pada suatu waktu, saya melihat laporan oleh Chris Talinger. Di dalamnya, Chris berbicara tentang bagaimana Twitter berhasil mendapatkan peningkatan kinerja yang signifikan dengan menggunakan algoritme pembelajaran mesin untuk menyesuaikan Graal. Saya memiliki keinginan yang kuat untuk mencoba sesuatu seperti itu sendiri. Pada artikel ini saya ingin membagikan apa yang terjadi pada akhirnya.  

Percobaan

Untuk mengimplementasikan eksperimen, saya membutuhkan:

1. Graal VM Community Edition baru. Pada saat penulisan ini, 20.2.0
2. lingkungan cloud khusus untuk pengujian beban
3. NewRelic untuk mengumpulkan metrik
4. generator beban uji
5. program Python dan sekumpulan skrip untuk mengimplementasikan algoritma ML itu sendiri

,

$$$A = (a_1,a_2,..,a_n)$

$$$f(x_1,x_2,..,x_n)$ .

:

$$

$$f=1/mean(CPUUtilization)$$

, .

, :

-Dgraal.MaximumInliningSize -Dgraal.TrivialInliningSize  -Dgraal.SmallCompiledLowLevelGraphSize

. ,

.

.

:

2. JVM

.

Twitter . .

,

. , .

NewRelic

NewRelic REST API APP_ID API_KEY.

APP_ID — . APM.

API_KEY NewRelic.

:

{
  "metric_data": {
    "from": "time",
    "to": "time",
    "metrics_not_found": "string",
    "metrics_found": "string",
    "metrics": [
      {
        "name": "string",
        "timeslices": [
          {
            "from": "time",
            "to": "time",
            "values": "hash"
          }
        ]
      }
    ]
  }
}

:

def request_metrics(params):
    app_id = "APP_ID"
    url = "https://api.newrelic.com/v2/applications/"+ app_id + "/metrics/data.json"
    headers = {'X-Api-Key':"API_KEY"}
    response = requests.get(url, headers=headers, params=params)
    return response.json()

CPU Utilzation params :

params = {
    'names[]': "CPU/User/Utilization",
    'values[]': "percent",
    'from': timerange[0],
    'to': timerange[1],
    'raw': "false"
}

timerange .

def get_timeslices(response_json, value_name):
    metrics = response_json['metric_data']['metrics'][0]
    timeslices = metrics['timeslices']
    values = []
    for t in timeslices:
        values.append(t['values'][value_name])
    return values

— .

BayesianOptimization.

.

def objective_function(maximumInliningSize, trivialInliningSize, smallCompiledLowLevelGraphSize):
    update_config(int(maximumInliningSize), int(trivialInliningSize), int(smallCompiledLowLevelGraphSize))
    timerange = do_test()
    data = get_results(timerange)
    return calculate(data)

_updateconfig , . _dotest .

JVM . , .

calculate :

    value = 1 / (mean(filtered_data))

pbounds = {
            'maximumInliningSize': (200, 500),
           'trivialInliningSize': (10, 25),
           'smallCompiledLowLevelGraphSize': (200, 650)
           }

,

  optimizer.probe(
        params={"maximumInliningSize": 300.0,
                "trivialInliningSize": 10.0,
                "smallCompiledLowLevelGraphSize": 300.0},
        lazy=True,
        )

def autotune():
    pbounds = {
                'maximumInliningSize': (200, 500),
               'trivialInliningSize': (10, 25),
               'smallCompiledLowLevelGraphSize': (200, 650)
               }

    optimizer = BayesianOptimization(
        f=objective_function,
        pbounds=pbounds,
        random_state=1,
    )

    optimizer.probe(
    params={"maximumInliningSize": 300.0,
            "trivialInliningSize": 10.0,
            "smallCompiledLowLevelGraphSize": 300.0},
    lazy=True,
    )

    optimizer.maximize(
        init_points=2,
        n_iter=10,
    )

    print(optimizer.max)

_objectivefunction 12

, . , .

:

for i, res in enumerate(optimizer.res):
    print("Iteration {}: \n\t{}".format(i, res))

.

Iteration 0:
    {'target': 0.02612330198537095, 'params': {'maximumInliningSize': 300.0, 'smallCompiledLowLevelGraphSize': 300.0, 'trivialInliningSize': 10.0}}
Iteration 1:
    {'target': 0.02666666666666667, 'params': {'maximumInliningSize': 325.1066014107722, 'smallCompiledLowLevelGraphSize': 524.1460220489712, 'trivialInliningSize': 10.001715622260173}}
...

.

, CPU Utilization Graal

:

.

CPU 4-5%.

CPU , proof of concept

.

2 Java Graal 2 . Graal JVM , Scala Kotlin.