Add conditional build step to use clouds.yaml

This was missed in patch Idf23a30b111dd922120fb6195d0411e2fc993dab
when we were implementing this feature.

Issue: RELENG-1205
Change-Id: Id2017172293463c616158b79f3af826ea754fa08
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Update reno to 2.11.2

Issue: RELENG-1355
Change-Id: I1bbd3be83f52d63bcde956f392c3396fa236b329
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Set PATH in Ubuntu 18.04 VM's

This is a workaround for a bash 3.4 bug that does not
set ~/.local/bin in PATH.

Issue-ID: RELENG-1320
Change-Id: I94bcc14f1dcfd1e813e09d1bf448d465549ea04c
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Merge "Allow maven-clm job to specify AppID namespace"

Clarify git-url and git-clone-url

Issue-ID: RELENG-446
Change-Id: Iac125015c0ed9b7e22feef604a14b21dd5d607d3
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Allow maven-clm job to specify AppID namespace

This allows maven-clm jobs to insert a project namespace into the
AppID field in Nexus IQ in cases where a Nexus IQ server might be
shared by multiple projects and name collision might be an issue.

This patch inserts an optional nexus-iq-namespace parameter which
by default is blank. This should not break backwards compatibility
while allowing the new namespace feature to work. We recommend when
using the namespace to add a trailing - to the value. Eg. 'odl-',
this is to make the namespace look nice for example "odl-aaa" will be
the result of namespace odl-, and project is aaa.

Issue: RELENG-1307
Change-Id: If4313ba00da67541d337b70f7946ad6f21fee037
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix deprecation warning to not execute code

The warning about lftools-install script being deprecated was quoted
incorrectly, so the `code` it suggested was actually executed. This
caused this script to fail, resulting in builds being marked unstable
and logs failing to deploy.

Change-Id: I394baf37a1a82d54fdbee62010af5be0be5527ff
Signed-off-by: Daniel Farrell <dfarrell@redhat.com>

Add lf flavors

The lf flavors are the same as the v2 flavors with the addition of
a 30gb root disk attached. Also reordered the list.

Change-Id: I9989759328b0d6d22ebf7c870e9f4dcbcdcfa253
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Add additional link steps for global-jjb install

Change-Id: I8e81f0924dc8561d6cf2f33e97f6f696c8233382
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Skip vote for releng-rtd from gerrit trigger

There should be an easy way to set jobs coming from global jjb to be
non-voting. I would like to add the rtd job as non
voting first and then after some time switch it to voting.

Change-Id: Id96886973c180e47f79c0550f8c35749715617a3
Jira: RELENG-1294
Signed-off-by: Aric Gardner <agardner@linuxfoundation.org>

Fix typos in docs

Change-Id: I1a12cebe248c368bab73abd50cc5045214435b8f
Signed-off-by: Anil Belur <abelur@linuxfoundation.org>

Add fix note for jjb-cleanup change

Change-Id: I676b953d2906bf4e9cf32bbd2625359540173a25
Signed-off-by: Andrew Grimberg <agrimberg@linuxfoundation.org>

Make sure that jjb-cleanup.sh allows unbound vars

Due to our merging of scripts in some of the build steps it's possible
for this script to end up merged in with other scripts that are setting
-u, this will then cause the jjb-cleanup to fail. As such, we need to
explicitly allow unbound variables to be safe

Change-Id: I312e9d737bffefe30a5238809dd03bde1eb0ca6b
Signed-off-by: Andrew Grimberg <agrimberg@linuxfoundation.org>

Merge "Trigger jjb-verify on all changes in jjb/shell dir"

Trigger jjb-verify on all changes in jjb/shell dir

Replace single file regex with change to any file in
shell dir.

Change-Id: I0ca9a9d1bddd2c21034e70c1413f7d2a64d8ee58
Signed-off-by: Anil Belur <abelur@linuxfoundation.org>

Add a Windows wrapper macro

We currently don't support ssh-agents on Windows. Split the wrapper
so that we have a Windows specific one.

Issue: RELENG-939
Change-Id: I0474206ddc706d8bb5c5c6762237bf227dc6cf82
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add macro to delete an openstack heat stack

This is migrated from OpenDaylight's releng/builder project.

Issue: RELENG-236
Change-Id: I3da707ea8315c861183b536114a7e32595e78c1f
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Pin Sphinx to ~1.7.9 as 1.8.0 breaks us

Change-Id: I66725c168ba7e8d06c6d9d8186af461c98dd7815
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Trigger jjb-verify on all changes in jjb dir

Everything in the global-jjb directory should trigger jjb-verify
jobs. Update the regex to be less specific.

Change-Id: Ie0b6c5b60e3547e1f3616c8dde7493be6d6184ff
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Set login shell for common-variables.sh

common-variables.sh is pulled in via list action before other
shell scripts so needs a login shell set so that the scripts
that come after correctly get their PATHs set.

Issue: RT 60957
Change-Id: If33d1689d1be590cfe0e557335225be18b5103f7
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Split pip and setuptools install to 2 calls

We seem to be getting more success installing pip and setuptools this
way and hopefully fixes the post-build scripts to not require all
jobs that use python to need to update their virtualenv calls.

Change-Id: I0fba7ba0f574cb29561fcfdb1404272c67165582
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Deprecate lftools-install.sh script

This script if used without calling `deactivate` gets in the way of
our post-build scripts and causes UNSTABLE build. Deprecate it as
we are no longer using it in global-jjb.

Change-Id: I84654b20490d5aa7e84e5e7330a59936dc7a6f0d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Update jobs to use lf-infra-pre-build

Use lf-infra-pre-build to install lftools via --user config. This
resolves the post-build issues caused by `pip install` due to
virtualenvs messing with the environment.

Change-Id: Iccd72e6f1d580037f55bff3199d05d467de17c58
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Update rtd jobs to use lf-infra-pre-build"

Merge "Use --user for tox install instead of virtualenv"

Update rtd jobs to use lf-infra-pre-build

Use lf-infra-pre-build to install lftools via --user config. This
resolves the post-build install failing with missing PBR version.

Change-Id: I3aa48d98811a7469fba15fe4c3eb7474bc7b5196
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use --user for tox install instead of virtualenv

Allows us to remove the workaround of installing lftools in
a venv before as the virtualenvs should no longer be conflicting.

Change-Id: Ic466cd74a568e0de2fbb0f3fd75205cd04c1e3f9
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Update lftools to ~ 0.17.1"

Use `python -m pip` to ensure updated pip is used

/usr/bin/pip is usually an OS level wrapper for pip. Calling
`python -m pip` ensures that we are getting the pip we are
installing rather than the OS local version.

Change-Id: I054d1cc0455c700e00450295cf76d925cff99f73
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Update lftools to ~ 0.17.1

Change-Id: I69a2e669493b0f309e161f07152d93b0fa0c9ac6
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Use clouds.yaml for openstack packer builders"

Merge "Add sigul signing to maven-stage job"

Fix package list script to not fail on diff

The diff command exits 1 if there is a difference between 2 files.
This is perfectly valid so ignore the exit code for this command.

Change-Id: I0da9d6bb99a5a0a9666697b27416fa5e5518e316
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use clouds.yaml for openstack packer builders

Since packer version 1.2.5, packer now supports pulling openstack
config from clouds.yaml. Let's consolidate to that file so that we
don't have duplicate configuration with the jobs that need the
openstack cli.

Issue: RELENG-1205
Change-Id: Idf23a30b111dd922120fb6195d0411e2fc993dab
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add sigul signing to maven-stage job

Refactor the lf-sigul* macros into a new one called lf-sigul-sign-dir
to be used as a one shot macro to sign a directory. Macro initializes
and cleans up after itself so no need to call extra builder steps.

Issue: RELENG-1071
Change-Id: I0ff965c2ef24fa7a44a114445d8a97c3176e575a
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Change gjjb install to use symlinks in jjb-dir

Update global-jjb install instructions to symlink the jjb and shell
directories in global-jjb and clone the submodule to the root of
ci-management instead.

This allows us to use tools that have YAML file configurations that
JJB will otherwise pick up and parse as invalid JJB config.

Issue: RELENG-1204
Change-Id: I5060dd0c1b67fa020a84844936eebb970ae2cbb6
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use Reno for release notes

Change-Id: I4ac1ce147ada7176cdac399b83edc646973dd80e
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Refactor job-groups documentation"

Merge "Remove maven-merge job todo"

Strip out trailing metadata from version

When manually building maven plugins maven puts in some metadata
like "2.38-SNAPSHOT (private-9853d407-zxiiro)" which throws off the
version_ge function as it does not know how to handle a version with
a space in the name. This change strips out only the leading version
ignoring everything after a space.

Change-Id: I02f0397ae5627f65638a456ba2f1304dd9a16de9
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Refactor job-groups documentation

Improve the way job-groups are documented so that it stays properly
in sync. This update recommends projects define their own job-groups
and using the ones defined in global-jjb only as a starting point.

Update ensure-documented to ignore job-groups since they should be
self documenting now in the new format.

Change-Id: I945735ecd50596605139c6522903a49350a1ea10
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Remove maven-merge job todo

This is completed.

Change-Id: Iddc98ccc4d4f8f3bfc3650eec3b5bab7f156db3b
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Release global-jjb v0.24.0

Change-Id: I5cc5be89985e0fcb99cb256053282b5e740b05c1
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Re-enable CLM jobs

Change-Id: I1816f34e964ff56cba3e5d7af693993c97b1cc7d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Add pre-build step to prep vm before build"

Add option to disable-job for all jobs

Add option to all jobs to allow disabling the job. CLM will has this
setting set to "true" while we figure out the CLM issues however
for all other jobs "false" is default.

Change-Id: I9db6e8603a7d968aacf0eae17dea3554d6c97429
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Disable CLM jobs by default"

Disable CLM jobs by default

Change-Id: I8c3b4a68aaed349d026d08134de4147ea74a9696
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Add pre-build step to prep vm before build

This new build step will run before any jobs run to prep the
builder.

This change should not force using of $HOME/.local/bin just yet
but preps the macros in place for us to activate it in jobs later.
The current virtualenv method should override what's done here.

Change-Id: I55947020e2f0cdbb61f9d4e7e88927d9bc304d17
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Set permit-all true for all jobs

We need this set for all jobs otherwise GHPR will spam GitHub.
This was set for verify jobs but the merge jobs did not have them.

Change-Id: I76db9d6146228180c9af3f06780705dac33b7899
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Move openstack-cron job to global-jjb"

Merge "Require IMAGE_NAME and HARDWARE_ID"

Merge "Add job to verify upstream global-jjb patches"

Merge "Remove mvn-settings requirement from jjb job docs"

Merge "Refactor staging-profile-id out of mvn-parameters"

Merge "Make staging jobs run daily"

Merge "Make maven-merge jobs run daily"

Require IMAGE_NAME and HARDWARE_ID

IMAGE_NAME had HARDWARE_ID are required settings so clearly mark
them as so instead of mentioning the default setting.

Change-Id: I30a00f1c92f7714f7ac8a308d12a6181fe4547cd
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Document the jjb-version variable"

Make maven-merge jobs run daily

Back when OpenDaylight was on Rackspace we were trying to cut back
on how often jobs run due to the infra being unstable and at the
time thought the maven-integration job and maven-merge jobs were
part of the problem. Since we moved to Vexxhost infra has been
significantly more stable and not as big a concern. Let's run
the maven-merge jobs on a daily basis so that project artifacts
have more chances to pass before the 3 week SNAPSHOT clearing
cron that's run in Nexus.

Change-Id: I7ac17b3b4b8729d0f143fb15c71143c3de1ac461
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Make staging jobs run daily

As we move towards more automated releases having regularly running
staging jobs will allow projects to discover broken staging jobs
earlier. Let's run these jobs @daily as a default.

Change-Id: I50a3f27396fc921714d1faff16830b2e6b38730d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Refactor staging-profile-id out of mvn-parameters

This was originally a bad design decision. We should not be forcing
staging-profile-id variable against all users of
lf-infra-maven-parameters when only the staging job needs it.

This patch moves custom parameter definitions to the maven-stage job
and removes staging-profile-id requirement from all other jobs.

Change-Id: I58fe4c43c851cd9e61ddec847529b0dcb91e0af1
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Allow unbound variables in sigul scripts

These scripts as they are designed expect unbound variables so
enable them at least until they are fixed.

Change-Id: I48182a1d5d5c3cf4d42249bfc8a55b7c0088ec36
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-raw instead of escape for sigul macros

These macros are not using any substitutions so are hitting
the bug that inserts curly braces.

Change-Id: I7af376c3c4ce1e2cd41ca4842e5042728cdafb69
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix typo in lf-sigual-install builders syntax

Change-Id: I8a75a63a577500783d7a5f22f1833a2f6451f3d5
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Move openstack-cron job to global-jjb

Move OpenDaylight's builder-openstack-cron job to global-jjb. This is
an initial patch that only migrates the "image-protection" script.

image-protection is used to parse jenkins-config/ and jjb/ directories
for any mention of images starting with "ZZCI" and flagging them as
protected. The assumption here is that ZZCI images are CI managed
and if they are referred to anywher by anything then they are
effectively considered in-use and should not be deletable so flag
them as "protected: true" in OpenStack.

Change-Id: Ib706663f0c08bd7a9160b0a6ce69dcd3b802f8f5
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add job to verify upstream global-jjb patches

Add job that can be used by downstream projects to report upstream
to global-jjb patches when a proposed patch breaks their project.

This job sets -1 CR only and does not block the upstream patch as
there are cases where we may want to break backwards compatibility
on purpose. This job's purpose is to give us a clear view when it
does happen.

Change-Id: If0dda88ff24da7fd171484c37855f33b05f36553
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Document the jjb-version variable

Change-Id: Ia07cb6b437e6e2107b8301d52f72aa3cace112da
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Remove mvn-settings requirement from jjb job docs

These jobs do not use that setting.

Change-Id: I8c606002bc4ca187b56514d65aa39919a6c6e74b
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Add Jenkins Sandbox Cleanup job"

Merge "Rename maven-release job to maven-stage"

Merge "Make GHPRB trigger on comment only"

Make GHPRB trigger on comment only

Issue: RELENG-1132
Change-Id: I5d67b8a70a4b2d5dc5e7c4028ba62c21cd7a7d1e
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Test with latest JJB and supported JJB

Test global-jjb with both the latest version of JJB as well as the
global-jjb supported version of JJB.

Also include a script to ensure that jjb/lf-ci-jobs.yaml and tox.ini
define the same supported versions of JJB.

Change-Id: I1a181776c6d0eef1b857ede9099d3ebb8e3ba98d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Upgrade minimal jjb version to 2.2.1

Issue: RELENG-1129
Change-Id: Idd342b85a0306cfedb63215f4a6442ced74c94e4
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Add Jenkins Sandbox Cleanup job

This cleanup job runs weekly on Saturdays to clear out Sandbox
jobs and views from the system.

The benefit of this is that it uses the same version of JJB as
the other CI jobs whereas the traditional cron job we put in puppet
does not often get updated to match the right version.

Issue: RELENG-1118
Change-Id: I2229d66f637bd5aab203a3bbf12aa1e677a471a1
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix packer {cron} should be {obj:cron}

Cron accepts a multiline list of crons so fix to {obj:cron} so that
the user can provide multiple cron settings.

Change-Id: I2ac03ad59e33c07eaa0a89d87bd7486fdbfe7e9d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Add CMake Stage job"

Rename maven-release job to maven-stage

ATTENTION: This is a breaking change. The trigger word
"build release$" is changed to "stage-release$" to better
reflect what this job is actually doing.

In preparation for work on RELENG-425 this change renames the
maven-release jobs to maven-stage job to better reflect what the
job really does.

Trigger keyword was also changed to "stage-release$"

Issue: RELENG-425
Change-Id: I0dd4342664251386ddc7eca52df56156105f200d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix nexus-iq-scan-patterns should be obj class

Since we are passing a list we need to set the scan patterns
variable as {obj:var}.

Change-Id: I13c4cf4d77f8aee0652962731a5bd7fb901a3d46
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add CMake Stage job

Issue: RELENG-1108
Change-Id: I6b295c1ceefc1c77fbe3311a8fdf314849b35cd0
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Document comment triggers

Change-Id: If017ac0989557cef10f2d393bddf98d40b7d9121
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add github whitelist branches params to trigger.

Issue: RELENG-1104
Change-Id: I02c7d8926888f17e8b9b7d78deb561147f44602f
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Fix github project url for properties

Jobs will not trigger off of GHPRB without it.

Issue: RELENG-1103
Change-Id: Id35c7e4f4beb5ecc06a69ac2c684cd585b565fae
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Merge "Update CLM job to use Nexus Policy Evaluation"

Update CLM job to use Nexus Policy Evaluation

Depends on JJB plugin support:
https://review.openstack.org/584581

Change-Id: I9b790183545f64c2d535163ae0eed9ed1ad5cc1e
Issue-ID: RELENG-1086
Signed-off-by: Jessica Wagantall <jwagantall@linuxfoundation.org>

Release global-jjb v0.23.0

Change-Id: I2f9edd302f643601c18bb02ad08e79c5faf7f316
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use eval so that $cmake_opts is properly parsed

Without eval bash inserts single quotes and breaks parameters passed
if they have quotes in the parameters. For example
`-D CMAKE_CXX_FLAGS="-fPIC -std=gnu++11"`

Issue: RELENG-1075
Change-Id: I77046a7edc0516f0ae28dd2b8cd2c8994ad5079e
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Validate only template/platform that is built"

Validate only template/platform that is built

No point validating every combination of template/platform in a
merge job that is only interested in building a single combo.

Change-Id: I0ad760b3247ac18aba79a9bca25d887e09b987fa
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix GitHub templates override lf-infra-properties

When redefining any Jenkins section we must redefine everything
that is being overrided otherwise previous configuration will
be lost. This patch fixes the build-days-to-keep parameter that
is lost in the GitHub jobs due to the github property override.

Change-Id: I8a127344189215367c3546d0b3222d989ea74800
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add cmake-verify job template

CMake verify job template for building CMake based projects.

Issue: RELENG-1074
Change-Id: Iccd3bab1d9f17071583a03e84b35bcd729161195
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Add Node / NPM cache & metrics to .gitignore"

Add Best Practice for Shell scripts

Change-Id: Ia6370964e34af94eceb9797596a048a5df3aea2a
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add Node / NPM cache & metrics to .gitignore

Change-Id: I7eaff8749e45c1699da0000ba4f446c4f37d3df8
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix global-vars fail to instantiate instance

Not sure why this is suddenly a problem. Jenkins was not upgraded
as far as I am aware but adding Jenkins. seems to resolve the
issue we suddenly started seeing.

Change-Id: I76b7e01c7f1d377e7c4b63d5adde1b4fc29c6933
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add global-jjb v0.22.0 release notes

Change-Id: I763e15fc63482d51a2f6a7878641c5738b881e30
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "project-pattern configurable for license-check"

Merge "Remove Unused Jenkins-Admin Groovy Scripts"

project-pattern configurable for license-check

Allow the project-pattern to be configurable for the license-check
job. In an ideal world we would have have a single job that will
enforce for all projects but initially we will need flexibility to
allow us to adjust as we enforce against existing projects.

Change-Id: Ibf83868bacf520c69ef729566207ce7cc7ecf57e
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>