Uh oh!
There was an error while loading. Please reload this page.
- Notifications
You must be signed in to change notification settings - Fork 96
fix: add support for protobuf 5.x#644
Uh oh!
There was an error while loading. Please reload this page.
Changes from all commits
ac9cad8a62ea6e13e15678b6bc48583b8ce5a49a533bca72cf263d692396495ef6050f7fbce0de1efa8328a41f80037d7aFile filter
Filter by extension
Conversations
Uh oh!
There was an error while loading. Please reload this page.
Jump to
Uh oh!
There was an error while loading. Please reload this page.
Diff view
Diff view
There are no files selected for viewing
| Original file line number | Diff line number | Diff line change |
|---|---|---|
| @@ -29,9 +29,13 @@ | ||
| from google.longrunning import operations_pb2 # type: ignore | ||
| from google.protobuf import empty_pb2 # type: ignore | ||
| from google.protobuf import json_format # type: ignore | ||
| import google.protobuf | ||
| import grpc | ||
| from .base import DEFAULT_CLIENT_INFO as BASE_DEFAULT_CLIENT_INFO, OperationsTransport | ||
| PROTOBUF_VERSION = google.protobuf.__version__ | ||
| OptionalRetry = Union[retries.Retry, object] | ||
| DEFAULT_CLIENT_INFO = gapic_v1.client_info.ClientInfo( | ||
| @@ -66,7 +70,7 @@ def __init__( | ||
| self, | ||
| *, | ||
| host: str = "longrunning.googleapis.com", | ||
| credentials: ga_credentials.Credentials = None, | ||
| credentials: Optional[ga_credentials.Credentials] = None, | ||
| credentials_file: Optional[str] = None, | ||
| scopes: Optional[Sequence[str]] = None, | ||
| client_cert_source_for_mtls: Optional[Callable[[], Tuple[bytes, bytes]]] = None, | ||
| @@ -184,11 +188,7 @@ def _list_operations( | ||
| "google.longrunning.Operations.ListOperations" | ||
| ] | ||
| request_kwargs = json_format.MessageToDict( | ||
| request, | ||
| preserving_proto_field_name=True, | ||
| including_default_value_fields=True, | ||
| ) | ||
| request_kwargs = self._convert_protobuf_message_to_dict(request) | ||
| transcoded_request = path_template.transcode(http_options, **request_kwargs) | ||
| uri = transcoded_request["uri"] | ||
| @@ -199,7 +199,6 @@ def _list_operations( | ||
| json_format.ParseDict(transcoded_request["query_params"], query_params_request) | ||
| query_params = json_format.MessageToDict( | ||
| query_params_request, | ||
| including_default_value_fields=False, | ||
| preserving_proto_field_name=False, | ||
| use_integers_for_enums=False, | ||
| ) | ||
Contributor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. This is essentially also converting a message to a dict. So we could use a similar approach to what we're doing for I'll leave it up to you since this isn't a blocker! ContributorAuthor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I took a closer look at making this change and I don't believe the helper function will result in fewer lines of code. The reason that we had the helper function elsewhere was to remove duplication for the protobuf 3.x/4.x compatibility code but we don't have the duplication here. | ||
| @@ -265,11 +264,7 @@ def _get_operation( | ||
| "google.longrunning.Operations.GetOperation" | ||
| ] | ||
| request_kwargs = json_format.MessageToDict( | ||
| request, | ||
| preserving_proto_field_name=True, | ||
| including_default_value_fields=True, | ||
| ) | ||
| request_kwargs = self._convert_protobuf_message_to_dict(request) | ||
| transcoded_request = path_template.transcode(http_options, **request_kwargs) | ||
| uri = transcoded_request["uri"] | ||
| @@ -280,7 +275,6 @@ def _get_operation( | ||
| json_format.ParseDict(transcoded_request["query_params"], query_params_request) | ||
| query_params = json_format.MessageToDict( | ||
| query_params_request, | ||
| including_default_value_fields=False, | ||
| preserving_proto_field_name=False, | ||
| use_integers_for_enums=False, | ||
| ) | ||
| @@ -339,11 +333,7 @@ def _delete_operation( | ||
| "google.longrunning.Operations.DeleteOperation" | ||
| ] | ||
| request_kwargs = json_format.MessageToDict( | ||
| request, | ||
| preserving_proto_field_name=True, | ||
| including_default_value_fields=True, | ||
| ) | ||
| request_kwargs = self._convert_protobuf_message_to_dict(request) | ||
| transcoded_request = path_template.transcode(http_options, **request_kwargs) | ||
| uri = transcoded_request["uri"] | ||
| @@ -354,7 +344,6 @@ def _delete_operation( | ||
| json_format.ParseDict(transcoded_request["query_params"], query_params_request) | ||
| query_params = json_format.MessageToDict( | ||
| query_params_request, | ||
| including_default_value_fields=False, | ||
| preserving_proto_field_name=False, | ||
| use_integers_for_enums=False, | ||
| ) | ||
| @@ -411,19 +400,14 @@ def _cancel_operation( | ||
| "google.longrunning.Operations.CancelOperation" | ||
| ] | ||
| request_kwargs = json_format.MessageToDict( | ||
| request, | ||
| preserving_proto_field_name=True, | ||
| including_default_value_fields=True, | ||
| ) | ||
| request_kwargs = self._convert_protobuf_message_to_dict(request) | ||
| transcoded_request = path_template.transcode(http_options, **request_kwargs) | ||
| # Jsonify the request body | ||
| body_request = operations_pb2.CancelOperationRequest() | ||
| json_format.ParseDict(transcoded_request["body"], body_request) | ||
| body = json_format.MessageToDict( | ||
| body_request, | ||
| including_default_value_fields=False, | ||
| preserving_proto_field_name=False, | ||
| use_integers_for_enums=False, | ||
| ) | ||
| @@ -435,7 +419,6 @@ def _cancel_operation( | ||
| json_format.ParseDict(transcoded_request["query_params"], query_params_request) | ||
| query_params = json_format.MessageToDict( | ||
| query_params_request, | ||
| including_default_value_fields=False, | ||
| preserving_proto_field_name=False, | ||
| use_integers_for_enums=False, | ||
| ) | ||
| @@ -458,6 +441,38 @@ def _cancel_operation( | ||
| return empty_pb2.Empty() | ||
| def _convert_protobuf_message_to_dict( | ||
| self, message: google.protobuf.message.Message | ||
| ): | ||
| r"""Converts protobuf message to a dictionary. | ||
| When the dictionary is encoded to JSON, it conforms to proto3 JSON spec. | ||
| Args: | ||
| message(google.protobuf.message.Message): The protocol buffers message | ||
| instance to serialize. | ||
| Returns: | ||
| A dict representation of the protocol buffer message. | ||
| """ | ||
| # For backwards compatibility with protobuf 3.x 4.x | ||
| # Remove once support for protobuf 3.x and 4.x is dropped | ||
| # https://github.com/googleapis/python-api-core/issues/643 | ||
| if PROTOBUF_VERSION[0:2] in ["3.", "4."]: | ||
| result = json_format.MessageToDict( | ||
| message, | ||
| preserving_proto_field_name=True, | ||
| including_default_value_fields=True, # type: ignore # backward compatibility | ||
| ) | ||
| else: | ||
| result = json_format.MessageToDict( | ||
| message, | ||
| preserving_proto_field_name=True, | ||
| always_print_fields_with_no_presence=True, | ||
| ) | ||
| return result | ||
| @property | ||
| def list_operations( | ||
| self, | ||
| Original file line number | Diff line number | Diff line change | ||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| @@ -15,7 +15,9 @@ | ||||||||||||||||||||||||||||||||||||||||
| from __future__ import absolute_import | ||||||||||||||||||||||||||||||||||||||||
| import os | ||||||||||||||||||||||||||||||||||||||||
| import pathlib | ||||||||||||||||||||||||||||||||||||||||
| import re | ||||||||||||||||||||||||||||||||||||||||
| import shutil | ||||||||||||||||||||||||||||||||||||||||
| import unittest | ||||||||||||||||||||||||||||||||||||||||
| # https://github.com/google/importlab/issues/25 | ||||||||||||||||||||||||||||||||||||||||
| import nox # pytype: disable=import-error | ||||||||||||||||||||||||||||||||||||||||
| @@ -26,6 +28,8 @@ | ||||||||||||||||||||||||||||||||||||||||
| # Black and flake8 clash on the syntax for ignoring flake8's F401 in this file. | ||||||||||||||||||||||||||||||||||||||||
| BLACK_EXCLUDES = ["--exclude", "^/google/api_core/operations_v1/__init__.py"] | ||||||||||||||||||||||||||||||||||||||||
| PYTHON_VERSIONS = ["3.7", "3.8", "3.9", "3.10", "3.11", "3.12"] | ||||||||||||||||||||||||||||||||||||||||
| DEFAULT_PYTHON_VERSION = "3.10" | ||||||||||||||||||||||||||||||||||||||||
| CURRENT_DIRECTORY = pathlib.Path(__file__).parent.absolute() | ||||||||||||||||||||||||||||||||||||||||
| @@ -72,17 +76,46 @@ def blacken(session): | ||||||||||||||||||||||||||||||||||||||||
| session.run("black", *BLACK_EXCLUDES, *BLACK_PATHS) | ||||||||||||||||||||||||||||||||||||||||
| def default(session, install_grpc=True): | ||||||||||||||||||||||||||||||||||||||||
| def install_prerelease_dependencies(session, constraints_path): | ||||||||||||||||||||||||||||||||||||||||
Contributor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. Sorry, I have gaps in my mental model for testing prerelease; This installs our dependencies at pre-release versions, right? Is the only difference, then, the use of (It might be easier to talk synchronously about this.) ContributorAuthor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. There is a difference in that we don't allow transitive dependencies in the | ||||||||||||||||||||||||||||||||||||||||
| with open(constraints_path, encoding="utf-8") as constraints_file: | ||||||||||||||||||||||||||||||||||||||||
| constraints_text = constraints_file.read() | ||||||||||||||||||||||||||||||||||||||||
| # Ignore leading whitespace and comment lines. | ||||||||||||||||||||||||||||||||||||||||
| constraints_deps = [ | ||||||||||||||||||||||||||||||||||||||||
| match.group(1) | ||||||||||||||||||||||||||||||||||||||||
| for match in re.finditer( | ||||||||||||||||||||||||||||||||||||||||
| r"^\s*(\S+)(?===\S+)", constraints_text, flags=re.MULTILINE | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| ] | ||||||||||||||||||||||||||||||||||||||||
| session.install(*constraints_deps) | ||||||||||||||||||||||||||||||||||||||||
| prerel_deps = [ | ||||||||||||||||||||||||||||||||||||||||
| "google-auth", | ||||||||||||||||||||||||||||||||||||||||
| "googleapis-common-protos", | ||||||||||||||||||||||||||||||||||||||||
| "grpcio", | ||||||||||||||||||||||||||||||||||||||||
| "grpcio-status", | ||||||||||||||||||||||||||||||||||||||||
| "proto-plus", | ||||||||||||||||||||||||||||||||||||||||
| "protobuf", | ||||||||||||||||||||||||||||||||||||||||
| ] | ||||||||||||||||||||||||||||||||||||||||
| for dep in prerel_deps: | ||||||||||||||||||||||||||||||||||||||||
| session.install("--pre", "--no-deps", "--upgrade", dep) | ||||||||||||||||||||||||||||||||||||||||
| # Remaining dependencies | ||||||||||||||||||||||||||||||||||||||||
| other_deps = [ | ||||||||||||||||||||||||||||||||||||||||
| "requests", | ||||||||||||||||||||||||||||||||||||||||
| ] | ||||||||||||||||||||||||||||||||||||||||
| session.install(*other_deps) | ||||||||||||||||||||||||||||||||||||||||
| def default(session, install_grpc=True, prerelease=False): | ||||||||||||||||||||||||||||||||||||||||
| """Default unit test session. | ||||||||||||||||||||||||||||||||||||||||
| This is intended to be run **without** an interpreter set, so | ||||||||||||||||||||||||||||||||||||||||
| that the current ``python`` (on the ``PATH``) or the version of | ||||||||||||||||||||||||||||||||||||||||
| Python corresponding to the ``nox`` binary the ``PATH`` can | ||||||||||||||||||||||||||||||||||||||||
| run the tests. | ||||||||||||||||||||||||||||||||||||||||
| """ | ||||||||||||||||||||||||||||||||||||||||
| constraints_path = str( | ||||||||||||||||||||||||||||||||||||||||
| CURRENT_DIRECTORY / "testing" / f"constraints-{session.python}.txt" | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| if prerelease and not install_grpc: | ||||||||||||||||||||||||||||||||||||||||
| unittest.skip("The pre-release session cannot be run without grpc") | ||||||||||||||||||||||||||||||||||||||||
| session.install( | ||||||||||||||||||||||||||||||||||||||||
| "dataclasses", | ||||||||||||||||||||||||||||||||||||||||
| @@ -92,10 +125,36 @@ def default(session, install_grpc=True): | ||||||||||||||||||||||||||||||||||||||||
| "pytest-xdist", | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| if install_grpc: | ||||||||||||||||||||||||||||||||||||||||
| session.install("-e", ".[grpc]", "-c", constraints_path) | ||||||||||||||||||||||||||||||||||||||||
| constraints_dir = str(CURRENT_DIRECTORY / "testing") | ||||||||||||||||||||||||||||||||||||||||
| if prerelease: | ||||||||||||||||||||||||||||||||||||||||
| install_prerelease_dependencies( | ||||||||||||||||||||||||||||||||||||||||
| session, f"{constraints_dir}/constraints-{PYTHON_VERSIONS[0]}.txt" | ||||||||||||||||||||||||||||||||||||||||
Contributor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. I'm confused: in line 206, where we call ContributorAuthor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. As per the comment in below, the constraints file for the lowest supported python version contains a list of all of the dependencies of the library. The function python-api-core/testing/constraints-3.7.txt Lines 1 to 7 in 126b5c7
Lines 79 to 88 in 7fbce0d
Once we have a list of dependencies, we will install them independently with the Lines 99 to 100 in 7fbce0d
| ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| # This *must* be the last install command to get the package from source. | ||||||||||||||||||||||||||||||||||||||||
| session.install("-e", ".", "--no-deps") | ||||||||||||||||||||||||||||||||||||||||
| else: | ||||||||||||||||||||||||||||||||||||||||
| session.install("-e", ".", "-c", constraints_path) | ||||||||||||||||||||||||||||||||||||||||
| session.install( | ||||||||||||||||||||||||||||||||||||||||
| "-e", | ||||||||||||||||||||||||||||||||||||||||
| ".[grpc]" if install_grpc else ".", | ||||||||||||||||||||||||||||||||||||||||
| "-c", | ||||||||||||||||||||||||||||||||||||||||
| f"{constraints_dir}/constraints-{session.python}.txt", | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| # Print out package versions of dependencies | ||||||||||||||||||||||||||||||||||||||||
| session.run( | ||||||||||||||||||||||||||||||||||||||||
| "python", "-c", "import google.protobuf; print(google.protobuf.__version__)" | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| # Support for proto.version was added in v1.23.0 | ||||||||||||||||||||||||||||||||||||||||
| # https://github.com/googleapis/proto-plus-python/releases/tag/v1.23.0 | ||||||||||||||||||||||||||||||||||||||||
| session.run( | ||||||||||||||||||||||||||||||||||||||||
| "python", | ||||||||||||||||||||||||||||||||||||||||
| "-c", | ||||||||||||||||||||||||||||||||||||||||
| """import proto; hasattr(proto, "version") and print(proto.version.__version__)""", | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| if install_grpc: | ||||||||||||||||||||||||||||||||||||||||
| session.run("python", "-c", "import grpc; print(grpc.__version__)") | ||||||||||||||||||||||||||||||||||||||||
| session.run("python", "-c", "import google.auth; print(google.auth.__version__)") | ||||||||||||||||||||||||||||||||||||||||
| pytest_args = [ | ||||||||||||||||||||||||||||||||||||||||
| "python", | ||||||||||||||||||||||||||||||||||||||||
| @@ -130,15 +189,26 @@ def default(session, install_grpc=True): | ||||||||||||||||||||||||||||||||||||||||
| session.run(*pytest_args) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=["3.7", "3.8", "3.9", "3.10", "3.11", "3.12"]) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=PYTHON_VERSIONS) | ||||||||||||||||||||||||||||||||||||||||
| def unit(session): | ||||||||||||||||||||||||||||||||||||||||
| """Run the unit test suite.""" | ||||||||||||||||||||||||||||||||||||||||
| default(session) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=["3.7", "3.8", "3.9", "3.10", "3.11", "3.12"]) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=PYTHON_VERSIONS) | ||||||||||||||||||||||||||||||||||||||||
| def unit_with_prerelease_deps(session): | ||||||||||||||||||||||||||||||||||||||||
| """Run the unit test suite.""" | ||||||||||||||||||||||||||||||||||||||||
| default(session, prerelease=True) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=PYTHON_VERSIONS) | ||||||||||||||||||||||||||||||||||||||||
| def unit_grpc_gcp(session): | ||||||||||||||||||||||||||||||||||||||||
| """Run the unit test suite with grpcio-gcp installed.""" | ||||||||||||||||||||||||||||||||||||||||
| """ | ||||||||||||||||||||||||||||||||||||||||
| Run the unit test suite with grpcio-gcp installed. | ||||||||||||||||||||||||||||||||||||||||
| `grpcio-gcp` doesn't support protobuf 4+. | ||||||||||||||||||||||||||||||||||||||||
| Remove extra `grpcgcp` when protobuf 3.x is dropped. | ||||||||||||||||||||||||||||||||||||||||
| https://github.com/googleapis/python-api-core/issues/594 | ||||||||||||||||||||||||||||||||||||||||
| """ | ||||||||||||||||||||||||||||||||||||||||
| constraints_path = str( | ||||||||||||||||||||||||||||||||||||||||
| CURRENT_DIRECTORY / "testing" / f"constraints-{session.python}.txt" | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
| @@ -150,7 +220,7 @@ def unit_grpc_gcp(session): | ||||||||||||||||||||||||||||||||||||||||
| default(session) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=["3.8", "3.10", "3.11", "3.12"]) | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=PYTHON_VERSIONS) | ||||||||||||||||||||||||||||||||||||||||
| def unit_wo_grpc(session): | ||||||||||||||||||||||||||||||||||||||||
| """Run the unit test suite w/o grpcio installed""" | ||||||||||||||||||||||||||||||||||||||||
| default(session, install_grpc=False) | ||||||||||||||||||||||||||||||||||||||||
| @@ -164,10 +234,10 @@ def lint_setup_py(session): | ||||||||||||||||||||||||||||||||||||||||
| session.run("python", "setup.py", "check", "--restructuredtext", "--strict") | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python="3.8") | ||||||||||||||||||||||||||||||||||||||||
| @nox.session(python=DEFAULT_PYTHON_VERSION) | ||||||||||||||||||||||||||||||||||||||||
Contributor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. Just to clarify, do we want to run this against all versions? ContributorAuthor There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. We normally only run it on 1 version but we can expand it if there is value | ||||||||||||||||||||||||||||||||||||||||
| def pytype(session): | ||||||||||||||||||||||||||||||||||||||||
| """Run type-checking.""" | ||||||||||||||||||||||||||||||||||||||||
| session.install(".[grpc]", "pytype >= 2019.3.21") | ||||||||||||||||||||||||||||||||||||||||
| session.install(".[grpc]", "pytype") | ||||||||||||||||||||||||||||||||||||||||
| session.run("pytype") | ||||||||||||||||||||||||||||||||||||||||
| @@ -178,9 +248,7 @@ def mypy(session): | ||||||||||||||||||||||||||||||||||||||||
| session.install( | ||||||||||||||||||||||||||||||||||||||||
| "types-setuptools", | ||||||||||||||||||||||||||||||||||||||||
| "types-requests", | ||||||||||||||||||||||||||||||||||||||||
| # TODO(https://github.com/googleapis/python-api-core/issues/642): | ||||||||||||||||||||||||||||||||||||||||
| # Use the latest version of types-protobuf. | ||||||||||||||||||||||||||||||||||||||||
| "types-protobuf<5", | ||||||||||||||||||||||||||||||||||||||||
| "types-protobuf", | ||||||||||||||||||||||||||||||||||||||||
| "types-mock", | ||||||||||||||||||||||||||||||||||||||||
| "types-dataclasses", | ||||||||||||||||||||||||||||||||||||||||
| ) | ||||||||||||||||||||||||||||||||||||||||
Uh oh!
There was an error while loading. Please reload this page.
There was a problem hiding this comment.
Choose a reason for hiding this comment
The reason will be displayed to describe this comment to others. Learn more.
Why is this file changed?
There was a problem hiding this comment.
Choose a reason for hiding this comment
The reason will be displayed to describe this comment to others. Learn more.
I ran
blackon all of the files and this file was formatted