03.DeployPhi3VisionOnAzure.md

Laboratorium 3 - Wdrażanie Phi-3-vision w Azure Machine Learning Service

Używamy NPU do realizacji produkcyjnego wdrożenia lokalnego kodu, a następnie chcemy wprowadzić możliwość korzystania z PHI-3-VISION, aby generować kod na podstawie obrazów.

W tym wprowadzeniu szybko zbudujemy usługę Model As Service Phi-3 Vision w Azure Machine Learning Service.

Note: Phi-3 Vision wymaga mocy obliczeniowej, aby generować treści szybciej. Potrzebujemy mocy obliczeniowej w chmurze, aby nam w tym pomóc.

1. Utwórz Azure Machine Learning Service

Musimy utworzyć usługę Azure Machine Learning Service w Azure Portal. Jeśli chcesz się dowiedzieć jak, odwiedź ten link https://learn.microsoft.com/azure/machine-learning/quickstart-create-resources?view=azureml-api-2

2. Wybierz Phi-3 Vision w Azure Machine Learning Service

3. Wdróż Phi-3-Vision w Azure

4. Przetestuj Endpoint w Postman

Note

1. Parametry, które należy przesłać, muszą zawierać Authorization, azureml-model-deployment oraz Content-Type. Należy sprawdzić informacje o wdrożeniu, aby je uzyskać.

2. Aby przesłać parametry, Phi-3-Vision wymaga przesłania linku do obrazu. Proszę odnieść się do metody GPT-4-Vision przesyłania parametrów, na przykład

{
  "input_data":{
    "input_string":[
      {
        "role":"user",
        "content":[ 
          {
            "type": "text",
            "text": "You are a Python coding assistant.Please create Python code for image "
          },
          {
              "type": "image_url",
              "image_url": {
                "url": "https://ajaytech.co/wp-content/uploads/2019/09/index.png"
              }
          }
        ]
      }
    ],
    "parameters":{
          "temperature": 0.6,
          "top_p": 0.9,
          "do_sample": false,
          "max_new_tokens": 2048
    }
  }
}

3. Wywołaj /score metodą Post

Gratulacje! Udało Ci się szybko wdrożyć PHI-3-VISION i przetestować, jak generować kod na podstawie obrazów. Następnie możemy budować aplikacje, łącząc NPU i chmurę.

Zastrzeżenie:
Niniejszy dokument został przetłumaczony za pomocą usługi tłumaczenia AI Co-op Translator. Mimo że dążymy do dokładności, prosimy mieć na uwadze, że automatyczne tłumaczenia mogą zawierać błędy lub nieścisłości. Oryginalny dokument w języku źródłowym powinien być uznawany za źródło autorytatywne. W przypadku informacji o kluczowym znaczeniu zalecane jest skorzystanie z profesjonalnego tłumaczenia wykonanego przez człowieka. Nie ponosimy odpowiedzialności za jakiekolwiek nieporozumienia lub błędne interpretacje wynikające z korzystania z tego tłumaczenia.